La distribution bêta a-t-elle un conjugué antérieur?

34

Je sais que la distribution bêta est conjuguée au binôme. Mais quel est le préalable conjugué de la bêta? Merci.

Équilibre de Brash
la source

Réponses:

25

Il semble que vous ayez déjà abandonné la conjugaison. Pour la petite histoire, une chose que j'ai vue voir des gens faire (mais ne me souviens pas exactement où, pardon) est un reparamétrage comme celui-ci. Si X1,,Xn sont conditionnellement IID, étant donné α,β , tel que Xiα,βBeta(α,β) , rappelez - vous que

E[Xiα,β]=αα+β=:μ
et
Var[Xiα,β]=αβ(α+β)2(α+β+1)=:σ2.
Par conséquent, vous pouvezreparamétrerla vraisemblance en termes deμ et deσ2 et utiliser à titre préalable
σ2μU[0,μ(1μ)]μU[0,1].
Vous êtes maintenant prêt à calculer le postérieur et à l'explorer selon votre méthode de calcul préférée.
Zen
la source
4
Non, pas MCMC cette chose! Quadrature cette chose! 2 paramètres seulement - la quadrature est la "norme d'or" pour les postérieurs de petites dimensions, à la fois en termes de temps et de précision.
probabilitéislogic
3
Une autre option consiste à considérer comme une mesure de la précision et à utiliser à nouveau μ = αψ=α+β tant que moyenne. Cela se fait tout le temps avec les processus Dirichlet, et la distribution bêta est un cas particulier. Alors peutêtre lancer un gamma ou log-normale avant leψet uniforme surμ. μ=αα+βψμ
mec
2
Pour être sûr, ce n'est pas conjugué, correct?
mec
3
Définitivement pas!
Zen
Bonjour @Zen Je traite ce problème en ce moment, mais je suis nouveau chez Bayesian et je ne suis pas sûr de bien comprendre l'idée. Je me suis dit que vous proposez de trouver puis utilisez reparamétrage, mais bien sûrce n'était pas l'idée Pouvezvous me aider à comprendre.?011μ(1μdμ
Red Noise
23

Oui, il a un conjugué antérieur dans la famille exponentielle. Considérons les trois paramètres famille Pour certaines valeurs de(a,b,p),cela est intégrable, bien que je n’aie pas bien compris laquelle (je pense quep>0eta<0,b<0devrait fonctionner -p=0correspond à des distributions exponentielles indépendantes cela fonctionne vraiment, et la mise à jour conjuguée implique une incrémentation

π(α,βa,b,p){Γ(α+β)Γ(α)Γ(β)}pexp(aα+bβ).
(a,b,p)p0a<0,b<0p=0 donc cela suggère que p > 0 fonctionne également).pp>0

Le problème, et au moins une partie de la raison pour laquelle personne ne l'utilise, est que c'est-à-dire que la constante de normalisation n'a pas de forme fermée.

00{Γ(α+β)Γ(α)Γ(β)}pexp(aα+bβ)=?
gars
la source
Ah C'est problématique. De toute façon, j'allais chercher une version non informative du conjugué, donc il semble que je pourrais aussi bien commencer par des a priori uniformes sur les deux paramètres. Merci.
Brash Equilibrium
Vous n'avez pas besoin de la normaliser si vous comparez simplement les probabilités…
Neil G
Je pense que vous pourriez manquer l'action de dans votre exp terme ainsi. Cela devrait probablement être p a α , etc.pexppaα
Neil G
@NeilG est dans l' exp , il vous suffit d'exprimer les choses en termes de log Γ ( ) au lieu de Γ ( ) . Faire p a α est juste une reparmetrization, ça ne change rien. Vous ne savez pas ce que vous voulez dire par "comparer simplement les probabilités". Vous ne pouvez pas implémenter un échantillonneur Gibbs avec cet avant sans utiliser quelque chose comme Metropolis, qui tue l'avantage de la conjugaison conditionnelle, la constante de normalisation dépend de a et b qui tue en mettant un prior sur eux ou en les estimant par des méthodes de vraisemblance, etc. .pexplogΓ()Γ()paαab
gars
2
L'intégrale de @NeilG est supérieure à et β puisque ce sont les variables aléatoires. αβ
mec
9

En théorie, il devrait exister un conjugué préalable pour la distribution bêta. Ceci est dû au fait

Cependant, la dérivation semble difficile, et pour citer les familles exponentielles de A Bouchard-Cote et ses conjoints Priors

Une observation importante à faire est que cette recette ne donne pas toujours un préalable conjugué qui est traitable par calcul.

En accord avec cela, il n'y a pas de priorité pour la distribution Beta dans A Compendium of Conjugate Priors de D Fink .

Ton trop
la source
3
La dérivation n'est pas difficile - Voir ma réponse: mathoverflow.net/questions/63496/…
Neil G
3

Je ne crois pas qu'il existe une distribution "standard" (c'est-à-dire une famille exponentielle) qui soit le conjugué préalable de la distribution bêta. Cependant, s'il en existe une, elle devra être une distribution à deux variables.


la source
Je ne sais pas à propos de cette question, mais j'ai trouvé cette carte avant conjugué pratique qui semble soutenir votre réponse: johndcook.com/conjugate_prior_diagram.html
Justin Bozonier
Le conjugué prior est dans la famille exponentielle et a trois paramètres - pas deux.
Neil G
1
@ Neil, tu as définitivement raison. J'aurais dû dire qu'il faudrait au moins deux paramètres.
-1: cette réponse est clairement fausse dans l'affirmation selon laquelle "le conjugué antérieur n'existe pas dans la famille exponentielle", comme le démontre la réponse ci-dessus ...
Jan Kukacka
3

Robert et Casella (RC) décrivent par hasard la famille des a priori conjugués de la distribution bêta de l’exemple 3.6 (p. 71 - 75) de leur livre, Introducing Monte Carlo Methods in R , Springer, 2010. Cependant, ils citent le résultat sans citer une source.

Ajouté en réponse à la demande de détails de gung. RC déclare que pour la distribution , le conjugué antérieur est "... de la formeB(α,β)

π(α,β){Γ(α+β)Γ(α)Γ(β)}λx0αy0β

sont des hyperparamètres, car le postérieur est alors égal à{λ,x0,y0}

π(α,β|x){Γ(α+β)Γ(α)Γ(β)}λ(xx0)α((1x)y0)β."

Le reste de l'exemple concerne l'échantillonnage d'importance de afin de calculer la probabilité marginale de x .π(α,β|x)x

utilisateur37239
la source
2
π(α,β)(Γ(α+β)Γ(α)Γ(β))λ+1(xx0)α1(y0(1x))β1
1
Je recommande humblement que l'affiche originale mette à jour le message pour indiquer que le postérieur donné dans le manuel est incorrect, selon le commentaire de Fred Schoen (qui est facilement vérifiable).
RMurphy