Je lisais la discussion sur Hacker News à propos de l'utilisation de l'écart-type par opposition à d'autres mesures telles que l'écart absolu moyen. Donc, si nous devions suivre le principe de l'entropie maximale, avec quel type de distribution utiliserions-nous si nous ne connaissions que la moyenne de la distribution et l'écart absolu moyen?
Ou est-il plus logique d'utiliser la médiane et l'écart moyen absolu par rapport à la médiane?
J'ai trouvé un article sur le principe de l'entropie maximale avec des mesures d'écart général par Grechuk, Molyboha et Zabarankin qui semble avoir l'information dont je suis curieux, mais il me faut du temps pour la déchiffrer.
distributions
maximum-entropy
mad
Dietrich Epp
la source
la source
Réponses:
Ces sages messieurs, Kotz, S., Kozubowski, TJ, et Podgorski, K. (2001). The Laplace Distribution and Generalizations: A Revisit with Applications to Communications, Economics, Engineering, and Finance (No. 183). Springer.
nous mettre au défi avec un exercice:
La preuve peut suivre la preuve théorique de l'information que la normale est l'entropie maximale pour une moyenne et une variance données. Plus précisément: Soit la densité de Laplace ci-dessus, et toute autre densité, mais ayant la même moyenne et la même déviation absolue. Cela signifie que l'égalité suivante est valable:g (F( x ) g( x )
La première intégrale est le négatif de l'entropie (différentielle) de , notons . La seconde intégrale est (en écrivant explicitement le pdf laplacien)g - h ( g)
L'insertion de ces résultats dans l'eq. nous avons Puisque était arbitraire, cela prouve que le au-dessus de la densité laplacienne est l'entropie maximale parmi toutes les distributions avec les prescriptions ci-dessus.[ 2 ]
la source