Comment des programmes comme BUGS / JAGS déterminent-ils automatiquement les distributions conditionnelles pour l'échantillonnage de Gibbs?

Il semble que les conditions complètes soient souvent assez difficiles à dériver, mais des programmes comme JAGS et BUGS les dérivent automatiquement. Quelqu'un peut-il expliquer comment il génère algorithmiquement des conditions complètes pour toute spécification de modèle arbitraire?

En lisant les commentaires sur les autres réponses, je pense que la bonne réponse à la question qui devait être posée est "ils ne le font pas", en général. Comme cela a été mentionné, ils construisent un DAG et regardent la couverture Markov, puis (grossièrement) font ce qui suit.

1. Si la couverture de Markov autour d'un nœud correspond à un conditionnel complet qui se trouve dans une table de recherche (disons, car il est conjugué), un échantillon de l'utilisation de la technique dans la table de recherche.
2. Sinon, vérifiez si la densité conditionnelle complète non normalisée - qui est triviale à calculer - est log-concave. Si c'est le cas, utilisez l'échantillonnage de rejet adaptatif.
3. Sinon, échantillonner en utilisant Metropolis-within-Gibbs pour échantillonner approximativement la distribution. Bien qu'il ne s'agisse pas d'un échantillon exact, il peut être démontré que cet algorithme laisse toujours l'invariant postérieur.

Ce n'est pas exactement ce qui se fait; par exemple, JAGS utilisera d'autres astuces pour construire des mises à jour de blocs. Mais cela devrait donner une idée de ce qu'ils font.

Je ne sais pas pourquoi vous pensez que les conditions complètes sont difficiles à obtenir. Étant donné une densité de probabilité a priori conjointe complète pour les paramètres et les données, le conditionnel complet de, disons, étant donné et les données sont faciles à dériver: elles sont juste proportionnelles à l'articulation avant pour les paramètres et les données. Il est facile de dire par inspection quels éléments de peuvent être supprimés du conditionnel complet pour .$\pi(\cdot)$$\theta_i$$\theta_{-i}$$\theta_{-i}$$\theta_i$

Les échantillonneurs automatiques de Gibbs effectuent cette "inspection" en analysant une spécification de modèle dans un modèle de graphique acyclique dirigé probabiliste . Ils calculent ensuite les conditionnelles complètes comme proportionnelles à la densité conjointe la couverture de Markov de .$\theta_i$