Vous avez essayé de montrer un équilibre détaillé pour la chaîne de Markov qui est obtenu en considérant une transition de la chaîne de Markov comme le `` balayage de Gibbs '' où vous échantillonnez chaque composant tour à tour à partir de sa distribution conditionnelle. Pour cette chaîne, l'équilibre détaillé n'est pas satisfait. Le fait est plutôt que chaque échantillonnage d'une composante particulière de sa distribution conditionnelle est une transition qui satisfait un équilibre détaillé. Il serait plus exact de dire que l'échantillonnage de Gibbs est un cas particulier d'une métropole-Hastings légèrement généralisée, où vous alternez entre plusieurs propositions différentes. Plus de détails suivent.
Les balayages ne satisfont pas à l'équilibre détaillé
Je construis un contre-exemple. Considérons deux variables de Bernoulli ( ), avec des probabilités comme indiqué dans le tableau suivant:
Supposons que le balayage de Gibbs est ordonné afin que soit échantillonné premier. Passer d'un état à un état en un seul mouvement est impossible, car il faudrait passer de à . Cependant, le passage de à a une probabilité positive, à savoirX1,X2 X1(0,0)(1,1)(0,0)(1,0)(1,1)(0,0)1
X1=0X1=1X2=0130X2=11313
X1(0,0)(1,1)(0,0)(1,0)(1,1)(0,0)14. Nous concluons donc que l'équilibre détaillé n'est pas satisfait.
Cependant, cette chaîne a toujours une distribution stationnaire qui est la bonne. Un équilibre détaillé est une condition suffisante, mais non nécessaire, pour converger vers la distribution cible.
Les mouvements des composants satisfont un équilibre détaillé
Considérons un état à deux variables où nous échantillonnons la première variable de sa distribution conditionnelle. Un mouvement entre et a une probabilité nulle dans les deux sens si et donc pour ces cas, l'équilibre détaillé est clairement . Ensuite, considérons :
(x1,x2)(y1,y2)x2≠y2x2=y2
π(x1,x2)Prob((x1,x2)→(y1,x2))=π(x1,x2)p(y1∣X2=x2)=π(x1,x2)π(y1,x2)∑zπ(z,x2)=π(y1,x2)π(x1,x2)∑zπ(z,x2)=π(y1,x2)p(x1∣X2=x2)=π(y1,x2)Prob((y1,x2)→(x1,x2)).
Comment les mouvements des composants sont-ils des mouvements de Metropolis-Hastings?
Échantillonnant à partir du premier composant, notre distribution de proposition est la distribution conditionnelle. (Pour toutes les autres composantes, nous proposons les valeurs actuelles avec probabilité ). En considérant un passage de à , le rapport des probabilités cibles est
Mais le rapport des probabilités de proposition est
1(x1,x2)(y1,y2)
π(y1,x2)π(x1,x2).
Prob((y1,x2)→(x1,x2))Prob((x1,x2)→(y1,x2))=π(x1,x2)∑zπ(z,x2)π(y1,x2)∑zπ(z,x2)=π(x1,x2)π(y1,x2).
Ainsi, le rapport des probabilités cibles et le rapport des probabilités de proposition sont réciproques, et donc la probabilité d'acceptation sera . En ce sens, chacun des mouvements de l'échantillonneur Gibbs est un cas particulier des mouvements de Metropolis-Hastings. Cependant, l'algorithme global vu sous cet angle est une légère généralisation de l'algorithme Metropolis-Hastings généralement présenté en ce que vous avez alterné entre différentes distributions de proposition (une pour chaque composante de la variable cible).
1