Devez-vous adhérer au principe de vraisemblance d'être bayésien?

Cette question découle de la question: quand (si jamais) une approche fréquentiste est-elle substantiellement meilleure qu'une approche bayésienne?

Comme je l'ai signalé dans ma solution à cette question, à mon avis, si vous êtes un fréquentiste, vous n'avez pas à croire / adhérer au principe de vraisemblance, car souvent les méthodes de fréquentation du temps le violent. Cependant, et ceci est généralement sous l'hypothèse de priors appropriés, les méthodes bayésiennes ne violent jamais le principe de vraisemblance.

Alors maintenant, dire que vous êtes un bayésien confirme-t-il sa croyance ou son accord sur le principe de vraisemblance, ou est-ce l'argument selon lequel être bayésien a juste la bonne conséquence que le principe de vraisemblance n'est pas violé?

bayesian likelihood likelihood-principle RustyStatistician
la source

Non - voir le Jeffreys avant. Les méthodes bayésiennes peuvent violer le (fort) principe de vraisemblance.

Scortchi - Réintégrer Monica

Oui, en effet, les priorités de Jeffreys et les solutions qui utilisent plusieurs fois les données comme les prédictives postérieures sont en violation du principe de vraisemblance mais peuvent toujours être considérées comme bayésiennes ...

Xi'an

Pas nécessairement. Et je ne sais pas quelle différence cela fait.

Scortchi - Réintégrer Monica

Comparez ceux du binôme et du binôme négatif.

Scortchi - Réintégrer Monica

xianblog.wordpress.com/2014/11/13/…

Scortchi - Réintégrer Monica

Réponses:

Dans l'utilisation du théorème de Bayes pour calculer les probabilités postérieures qui constituent l'inférence sur les paramètres du modèle, le principe de la faible probabilité est automatiquement respecté:

p o s t e r je o r \propto p r je o r \times l je k e l je h o o ré

$\mathrm{posterior} \propto \mathrm{prior} \times \mathrm{likelihood}$

Néanmoins, dans certaines approches bayésiennes objectives, le schéma d'échantillonnage détermine le choix du prior, la motivation étant qu'un prior non informatif devrait maximiser la divergence entre les distributions antérieure et postérieure - en laissant les données avoir autant d'influence que possible. Ils violent ainsi le principe de la forte probabilité.

$\pi$

\begin{aligned} \Pr_{N B} (π) & \propto π^{- 1} (1 - π)^{- \frac{1}{2}} \\ \Pr_{B je n} (π) & \propto π^{- \frac{1}{2}} (1 - π)^{- \frac{1}{2}} \end{aligned}

$\def\Pr{\mathop{\rm Pr}\nolimits} \begin{align} \Pr_\mathrm{NB}(\pi) &\propto \pi^{-1} (1-\pi)^{-\tfrac{1}{2}}\\ \Pr_\mathrm{Bin}(\pi) &\propto \pi^{-\tfrac{1}{2}} (1-\pi)^{-\tfrac{1}{2}} \end{align}$

et le conditionnement sur succès de essais conduit aux distributions postérieures $x$ $n$

\begin{aligned} \Pr_{N B} (π ∣ X, n) \sim B e t une (X, n - X + \frac{1}{2}) \\ \Pr_{B je n} (π ∣ X, n) \sim B e t une (X + \frac{1}{2}, n - X + \frac{1}{2}) \end{aligned}

$\begin{align} \Pr_\mathrm{NB}(\pi \mid x,n) \sim \mathrm{Beta}(x, n-x+\tfrac{1}{2})\\ \Pr_\mathrm{Bin}(\pi \mid x,n)\sim \mathrm{Beta}(x+\tfrac{1}{2}, n-x+\tfrac{1}{2}) \end{align}$

Ainsi, l'observation de 1 succès sur 10 essais conduirait à des distributions postérieures assez différentes selon les deux schémas d'échantillonnage:

Bien que le fait de suivre de telles règles pour dériver des prieurs non informatifs puisse parfois vous laisser avec des prieurs impropres, ce n'est pas en soi la racine de la violation du principe de vraisemblance qu'implique la pratique. Une approximation du précédent de Jeffreys, , où , est tout à fait correcte et fait une différence négligeable pour la partie postérieure. $\pi^{-1+c} (1-\pi)^{-1/2}$ $0 < c\ll 1$

Vous pouvez également considérer la vérification du modèle - ou faire quoi que ce soit à la suite de vos vérifications - comme contraire au principe de la faible probabilité; un cas flagrant d'utilisation de la partie accessoire des données.

Scortchi - Réintégrer Monica
la source