Comment la bêta antérieure affecte-t-elle la partie postérieure sous une probabilité binomiale

8

J'ai deux questions,

Question 1: Comment puis-je montrer que la distribution postérieure est une distribution bêta si la probabilité est binomiale et l'a priori est une bêta

Question 2: Comment les choix des paramètres antérieurs affectent-ils le postérieur? Ne devraient-ils pas tous être les mêmes?

Est-il possible de répondre à ces questions en R?

George Kramer
la source
Vous pouvez facilement utiliser firstbayes pour faire une comparaison sans avoir à écrire des codes comme dans R. Get firstbayes. Cela pourrait aider car son installation pourrait être délicate. Youtube.com/watch?v=BcdigiWY054

Réponses:

18

Pour répondre à votre première question, nous avons juste besoin d'utiliser le théorème de Bayes pour mettre à jour notre vraisemblance binomiale avec la version bêta précédente. Pour mieux comprendre comment procéder, observez d'abord le résultat suivant où nous pouvons utiliser le résultat de proportionnalité puisque la distribution bêta est l'a priori conjugué pour la vraisemblance binomiale.

p(θ|x)=p(x|θ)p(θ)Θp(x|θ)p(θ)dθp(x|θ)p(θ)

Maintenant, laissez et . Nous pouvons maintenant utiliser le théorème de Bayes pour calculer le postérieur comme suit:xiBinomial(Ni,θ)θBeta(α,β)

p(θ|x)p(x|θ)p(θ)(Nxi)θs(1θ)NsΓ(α+β)Γ(α)Γ(β)θα1(1θ)β1θs(1θ)Nsθα1(1θ)β1θα+s1(1θ)β+Ns1
où ets=i=1nxiN=i=1nNi

Maintenant, nous reconnaissons le côté droit proportionnel de l'équation comme le noyau d'une autre distribution bêta avec des paramètres mis à jour et

α=α+i=1nxi
β=β+i=1nNii=1nxi

Maintenant, pour la deuxième partie de votre problème, considérez les graphiques suivants des postérieurs étant donné les différentes distributions antérieures.

BetaPriors

Le tracé ci-dessus est de cinq distributions antérieures différentes:

Prior 1:θBeta(.5,.5)Prior 1:θBeta(5,1)Prior 1:θBeta(1,3)Prior 1:θBeta(2,2)Prior 1:θBeta(2,5)
entrez la description de l'image ici entrez la description de l'image ici entrez la description de l'image ici entrez la description de l'image ici entrez la description de l'image ici

Or, bien que la distribution postérieure ne semble pas beaucoup modifiée par le choix du prieur dans cette situation, ce n'est pas toujours le cas. Par exemple, si nous avions échantillonné à partir d'une distribution binomiale (dans le code) où nous verrions que la distribution postérieure est radicalement modifiée par le choix de la distribution précédente.N=2

Voici le Rcode utilisé pour tout générer:

colors = c("red","blue","green","orange","purple")

n = 10
N = 10
theta = .2

x = rbinom(n,N,theta)
grid = seq(0,2,.01)


alpha = c(.5,5,1,2,2)
beta = c(.5,1,3,2,5)

plot(grid,grid,type="n",xlim=c(0,1),ylim=c(0,4),xlab="",ylab="Prior Density",
     main="Prior Distributions", las=1)
for(i in 1:length(alpha)){
    prior = dbeta(grid,alpha[i],beta[i])
    lines(grid,prior,col=colors[i],lwd=2)
}

legend("topleft", legend=c("Beta(0.5,0.5)", "Beta(5,1)", "Beta(1,3)", "Beta(2,2)", "Beta(2,5)"),
       lwd=rep(2,5), col=colors, bty="n", ncol=3)

for(i in 1:length(alpha)){
    dev.new()
    plot(grid,grid,,type="n",xlim=c(0,1),ylim=c(0,10),xlab="",ylab="Density",xaxs="i",yaxs="i",
    main="Prior and Posterior Distribution")

    alpha.star = alpha[i] + sum(x)
    beta.star = beta[i] + n*N - sum(x)
    prior = dbeta(grid,alpha[i],beta[i])
    post = dbeta(grid,alpha.star,beta.star)

    lines(grid,post,lwd=2)
    lines(grid,prior,col=colors[i],lwd=2)
    legend("topright",c("Prior","Posterior"),col=c(colors[i],"black"),lwd=2)

}
COOLSerdash
la source
(+1) Excellente réponse @ user25658.
MYaseen208 du
C'est une excellente réponse et ce serait bien, cela inclut également un graphique de vraisemblance (données).
MYaseen208
1
@ user25658 Si la distribution postérieure est une distribution bêta, ne devrions-nous pas utiliser rbetaau lieu de rbinomgénérer x car thêta est une distribution bêta?
Kamaldeep Singh