Alors là, j'étudie l'inférence. J'aimerais que quelqu'un puisse énumérer les avantages de la famille exponentielle. Par famille exponentielle, je veux dire les distributions qui sont données comme
dont le support ne dépend pas du paramètre . Voici quelques avantages que j'ai découverts:
(a) Il intègre une grande variété de distributions.
(b) Il offre une statistique naturelle suffisante selon le théorème de Neyman-Fisher.
(c) Il permet de fournir une belle formule pour la fonction de génération de moment de .
(d) Il permet de découpler facilement la relation entre la réponse et le prédicteur de la distribution conditionnelle de la réponse (via les fonctions de liaison).
Quelqu'un peut-il fournir un autre avantage?
self-study
exponential-family
user1337
la source
la source
Réponses:
Je pense que votre liste d'avantages répond efficacement à votre propre question, mais permettez-moi de proposer quelques commentaires méta-mathématiques qui pourraient éclairer ce sujet. D'une manière générale, les mathématiciens aiment généraliser les concepts et les résultats jusqu'au point maximal qu'ils peuvent, dans les limites de leur utilité. Autrement dit, lorsque les mathématiciens développent un concept et découvrent qu'un ou plusieurs théorèmes utiles s'appliquent à ce concept, ils chercheront généralement à généraliser de plus en plus le concept et les résultats, jusqu'à ce qu'ils parviennent au point où une généralisation supplémentaire rendrait les résultats inapplicables. ou plus utile. Comme vous pouvez le voir dans votre liste, la famille exponentielle a un certain nombre de théorèmes utiles qui lui sont attachés, et elle englobe une large classe de distributions. Cela suffit pour en faire un objet d'étude digne et une classe mathématique utile dans la pratique.
Cette classe possède diverses bonnes propriétés dans l'analyse bayésienne. En particulier, les distributions exponentielles des familles ont toujours des antérieurs conjugués, et la distribution prédictive postérieure résultante a une forme simple. Cela fait une classe de distributions extrêmement utile dans les statistiques bayésiennes. En effet, il vous permet d'entreprendre une analyse bayésienne en utilisant des a priori conjugués à un niveau de généralité extrêmement élevé, englobant toutes les familles distributionnelles de la famille exponentielle.
la source
Je dirais que la motivation la plus convaincante pour les familles exponentielles est qu'elles sont une distribution hypothétique minimale compte tenu des mesures . Si vous avez un capteur à valeur réelle dont les mesures sont résumées par la moyenne et la variance, l'hypothèse minimale que vous pouvez faire à propos de ses observations est qu'elles sont normalement distribuées. Chaque famille exponentielle est le résultat d'un ensemble d'hypothèses similaires.
Jaynes défend ce principe d'entropie maximale:
la source