Statistiques bayésiennes antérieures d'uniforme binomial

Supposons d'avoir une distribution binomiale où la priorité du paramètre est uniforme. Comment obtenir la distribution postérieure du paramètre?

C'est très simple à faire si vous utilisez une distribution antérieure qui est conjuguée à la fonction de vraisemblance binomiale. On dit qu'un a priori et une vraisemblance sont conjugués lorsque la distribution postérieure résultante est du même type de distribution que l'a priori. Cela signifie que si vous avez des données binomiales, vous pouvez utiliser une version bêta avant d'obtenir une version bêta postérieure. Les antécédents conjugués ne sont pas requis pour effectuer la mise à jour bayésienne, mais ils facilitent beaucoup les calculs, ils sont donc agréable à utiliser si vous le pouvez.

Un a priori bêta a deux paramètres de forme qui déterminent à quoi il ressemble et est noté Bêta (α, β). Prendre votre a priori pour p (probabilité de succès) comme uniforme équivaut à utiliser une distribution bêta avec les deux paramètres définis sur 1.

Pour obtenir un postérieur, il suffit d'utiliser la règle de Bayes:

Postérieur Prior x Probabilité$\propto$

Le postérieur est proportionnel à la probabilité multipliée par le précédent. Ce qui est bien avec les distributions conjuguées, c'est que la mise à jour bayésienne est aussi simple que l'algèbre de base. Nous prenons la formule de la fonction de vraisemblance binomiale,

$Binomial Likelihood \propto p^x (1-p)^{n-x}$

où x est le nombre de succès dans n essais. puis multipliez-le par la formule de l'a priori bêta avec les paramètres de forme α et β,

$Beta Prior \propto p^{\alpha-1} (1-p)^{\beta-1}$

pour obtenir la formule suivante pour le postérieur,

$Beta Posterior \propto p^x(1-p)^{n-x}p^{\alpha-1}(1-p)^{\beta-1}$

Vous verrez que nous multiplions les termes avec la même base, ce qui signifie que les exposants peuvent être ajoutés ensemble. Ainsi, la formule postérieure peut être réécrite comme,

$Beta Posterior \propto p^xp^{\alpha-1}(1-p)^{n-x}(1-p)^{\beta-1}$

ce qui simplifie,

$Beta Posterior \propto p^{x+\alpha-1}(1-p)^{n-x+\beta-1}$

Ce qui revient à: Prendre le prior, ajouter les succès et les échecs aux différents exposants, et le tour est joué. En d'autres termes, vous prenez le précédent, Beta (α, β), et ajoutez les succès des données, x, à et les échecs, n - x, à , et il y a votre postérieur, Beta ( + x, + nx).$\alpha$$\beta$$\alpha$$\beta$

Lorsque vous commencez avec une bêta (1,1), votre a posteriori aura la forme exacte de la vraisemblance binomiale, et la postérieure est écrite en bêta (1 + x, 1 + nx).

Graphiques

Si vous commencez avec votre uniforme précédent, Beta (1,1), cela ressemble à ceci:

Si vous avez 13 succès en 25 essais, le nouveau postérieur est Beta (1 + 13,1 + 12) ou Beta (14,13), comme indiqué ci-dessous:

Il y a du code pour faire des graphiques comme celui-ci et d'autres sur mon blog, ici .