Un facteur bayésien est défini dans les tests bayésiens d'hypothèse et de sélection du modèle bayésien par le rapport de deux probabilités marginales: pour un échantillon iid et les densités d'échantillonnage respectives et , avec les a priori correspondants et , le facteur Bayes pour comparer les deux modèles est
Un livre que je suis en train de lire contient l'étrange déclaration que le facteur Bayes ci-dessus(x1,…,xn)f1(x|θ)f2(x|η)π1π2B12( x1, … , Xn) =defm1( x1, … , Xn)m2( x1, … , Xn)=def∫∏ni = 1F1( xje| θ) π1( d θ )∫∏ni = 1F2( xje| η) π2( d η)
B12( x1, … , Xn) est "formé en multipliant les facteurs individuels [facteurs Bayes] ensemble" (p.118). Ceci est formellement correct si l'on utilise la décomposition
mais je ne vois aucun avantage de calcul dans cette décomposition comme mise à jour par nécessite le même effort de calcul que le calcul d'origine deB12( x1, … , Xn)= m1( x1, … , Xn)m2( x1, … , Xn)= m1( xn| X1, … , Xn - 1)m2( xn| X1, … , Xn - 1)× m1( xn - 1| Xn - 2, … , X1)m2( xn - 1| Xn - 2, … , X1)× ⋯⋯ × m1( x1)m2( x1)
m1( xn| X1, … , Xn - 1)m2( xn| X1, … , Xn - 1)
m1( x1, … , Xn)m2( x1, … , Xn)
en dehors des exemples de jouets artificiels.
Question: Existe - t-il un moyen générique et efficace de mettre à jour le facteur Bayes de vers
\ mathfrak {B} _ {12} (x_1, \ ldots, x_ {n + 1}) qui ne nécessite pas de recalculer les marginaux entiers m_1 (x_1, \ ldots, x_n) et
m_2 (x_1, \ ldots, x_n) ?B12( x1, … , Xn)B12( x1, … , Xn + 1)m1( x1, … , Xn)m2( x1, … , Xn)
Mon intuition est que, outre les filtres à particules, qui procèdent effectivement à l'estimation des facteurs de Bayes B12( x1, … , Xn) une nouvelle observation à la fois, il n'y a pas de moyen naturel de répondre à cette question .
Réponses:
On peut supposer que le but d'une équation récursive pour le facteur Bayes serait lorsque vous avez déjà calculé le facteur Bayes pour points de données et que vous souhaitez pouvoir le mettre à jour avec un point de données supplémentaire. Il semble qu'il soit possible de le faire sans recalculer les marginaux du vecteur de données précédent, tant que la forme de la fonction postérieure est connue. En supposant que nous connaissons la forme de cette fonction (et en supposant des données IID comme dans votre question), la densité prédictive peut être écrite comme:n πn
Vous avez donc:
En comparant deux classes de modèle via le facteur de Bayes, nous obtenons alors l'équation récursive:
Cela implique toujours l'intégration sur la plage de paramètres, donc je suis d'accord avec votre avis qu'il ne semble pas y avoir d'avantage de calcul par rapport au simple recalcul du facteur Bayes via la formule initiale que vous donnez. Néanmoins, vous pouvez voir que cela ne vous oblige pas à recalculer les marginaux pour le vecteur de données précédent. (Au lieu de cela, nous calculons les densités prédictives du nouveau point de données conditionnelles aux données précédentes, sous chacune des classes de modèle.) Comme vous, je ne vois vraiment aucun avantage de calcul de cela, sauf s'il arrive que cette formule intégrale se simplifie facilement. En tout cas, je suppose que cela vous donne une autre formule pour mettre à jour le facteur Bayes.
la source