Existe-t-il un lien entre les Bayes empiriques et les effets aléatoires?

12

J'ai récemment lu des articles sur les Bayes empiriques (Casella, 1985, Introduction à l'analyse des données empiriques de Bayes) et cela ressemblait beaucoup au modèle à effets aléatoires; en ce que les deux ont des estimations réduites à la moyenne mondiale. Mais je ne l'ai pas lu attentivement ...

Quelqu'un at-il une idée de la similitude et des différences entre eux?

bayesian estimation random-effects-model steins-phenomenon empirical-bayes anonyme
la source
1
Les Bayes empiriques peuvent être utilisés dans des situations avec ou sans effets aléatoires - EB se réfère simplement aux approches bayésiennes qui estiment, à partir des données, les paramètres (parfois appelés hyperparamètres) de la distribution antérieure - il s'agit d'une méthode d'estimation tandis que les modèles à effets aléatoires sont une approche pour modélisation des données corrélées. Peut-être que l'exemple que vous avez vu impliquait d'estimer un modèle à effets aléatoires à l'aide de Bayes empiriques et c'est pourquoi vous connectez les deux.
Macro
1
Casella, pas Cassella!
Xi'an
2
Une différence majeure est que les modèles à effet aléatoire sont des modèles (y compris un effet aléatoire), tandis que les techniques empiriques de Bayes sont des techniques d'inférence: par exemple, vous pouvez exécuter une estimation empirique de Bayes sur un modèle à effet aléatoire ... Les méthodes empiriques de Bayes s'appliquent dans presque toutes les situations où vous pourriez utiliser une méthode Bayes régulière, non seulement pour des modèles à effets aléatoires.
Xi'an
1
Question connexe: vue unifiée sur le retrait: quelle est la relation (le cas échéant) entre le paradoxe de Stein, la régression des crêtes et les effets aléatoires dans les modèles mixtes?
amibe dit Réintégrer Monica

Réponses:

5

Il y a un très bon article dans JASA au milieu des années 1970 sur l'estimateur James-Stein et l'estimation empirique Bayes avec une application particulière pour prédire les moyennes de frappeurs des joueurs de baseball. La perspicacité que je peux donner à ce sujet est le résultat de James et Stein qui ont montré à la surprise du monde statistique que pour une distribution normale multivariée en trois dimensions ou plus, le MLE, qui est le vecteur de moyennes de coordonnées, est inadmissible.

La preuve a été obtenue en montrant qu'un estimateur qui rétrécit le vecteur moyen vers l'origine est uniformément mieux basé sur l'erreur quadratique moyenne en tant que fonction de perte. Efron et Morris ont montré que dans un problème de régression multivariée utilisant une approche bayésienne empirique, les estimateurs auxquels ils aboutissent sont des estimateurs de rétrécissement du type James-Stein. Ils utilisent cette méthodologie pour prédire les moyennes au bâton de la dernière saison des joueurs de baseball des ligues majeures en fonction de leur résultat de début de saison. L'estimation déplace la moyenne individuelle de chacun vers la grande moyenne de tous les joueurs.

Je pense que cela explique comment de tels estimateurs peuvent apparaître dans des modèles linéaires multivariés. Il ne le connecte pas complètement à un modèle d'effets mixtes particulier, mais peut être une bonne piste dans cette direction.

Quelques références :

  1. B. Efron et C. Morris (1975), Analyse des données à l'aide de l'estimateur de Stein et de ses généralisations , J. Amer. Stat. Assoc. , vol. 70, non. 350, 311–319.
  2. B. Efron et C. Morris (1973), la règle d'estimation de Stein et ses concurrents - Une approche empirique de Bayes , J. Amer. Stat. Assoc. , vol. 68, non. 341, 117-130.
  3. B. Efron et C. Morris (1977), Le paradoxe de Stein en statistiques , Scientific American , vol. 236, non. 5, 119-127.
  4. G. Casella (1985), An introduction to empirical Bayes data analysis , Amer. Statisticien , vol. 39, non. 2, 83–87.
Michael R. Chernick
la source
1
Pas complètement liés, mais un peu plus sur les résultats (in) de recevabilité sont dans cette question .
cardinal
1
J'ai placé un lien vers l'article que je pense que vous faites référence en tant que point (1) sous les références, mais depuis Efron & Morris a écrit toute une série d'articles sur des sujets connexes au cours de cette période, il est quelque peu difficile de savoir lequel vous étiez réellement se référant à. J'ai également essayé d'ajuster une partie de la mise en forme et de l'orthographe. Veuillez vérifier que je n'ai introduit aucune erreur par inadvertance et n'hésitez pas à modifier davantage ou à annuler l'une des miennes.
cardinal
1
J'ai placé des liens vers des archives faisant autorité dans la publication, mais certains ou tous les articles peuvent être trouvés sur d'autres sources (moins stables) sur le Web.
cardinal
1
Merci d'avoir publié l'article d'Efron et Morris. Un rappel des jours meilleurs, quand Don Kessinger, Ron Santo et Billy Williams jouaient pour les Cubs, et Scientific American publiait toujours des articles à lire.
Ringold
1
Une monographie très récente de Brad Efron, Inférence à grande échelle est apparue récemment. Malgré son titre, il s'agit de Bayes empiriques! (Voir ici pour ma critique du livre.)
Xi'an