Comment expliqueriez-vous Markov Chain Monte Carlo (MCMC) à un profane?
Peut-être que le concept, pourquoi il est utilisé et un
240
Markov Chain Monte Carlo (MCMC) fait référence à une classe de méthodes pour générer des échantillons à partir d'une distribution cible en générant des nombres aléatoires à partir d'une chaîne de Markov dont la distribution stationnaire est la distribution cible. Les méthodes MCMC sont généralement utilisées lorsque des méthodes plus directes pour la génération de nombres aléatoires (par exemple la méthode d'inversion) sont irréalisables. La première méthode MCMC était l'algorithme Metropolis, plus tard modifié en l'algorithme Metropolis-Hastings.
Peut-être que le concept, pourquoi il est utilisé et un
Je pense que j'ai une idée générale de VI et de MCMC, y compris les différentes saveurs de MCMC telles que l’échantillonnage de Gibbs, Metropolis Hastings, etc. Ce document fournit un magnifique exposé des deux méthodes. J'ai les questions suivantes: Si je souhaite faire l'inférence bayésienne,...
J'ai essayé d'apprendre les méthodes MCMC et j'ai découvert l'échantillonnage de Hastings, Gibbs, Importance et Reject dans Metropolis. Certaines de ces différences sont évidentes, c’est-à-dire que Gibbs est un cas particulier de Metropolis Hastings lorsque nous avons les conditions complètes,...
Cher tout le monde - J'ai remarqué quelque chose d'étrange que je ne peux pas expliquer, pouvez-vous? En résumé: l'approche manuelle pour calculer un intervalle de confiance dans un modèle de régression logistique et la fonction R confint()donnent des résultats différents. Je suis passé par la...
Quelle est votre méthode préférée pour vérifier la convergence lors de l'utilisation de la chaîne de Markov Monte Carlo pour l'inférence bayésienne, et
J'étudie une méthode de vérification automatique des méthodes Monte Carlo de la chaîne de Markov, et je voudrais quelques exemples d'erreurs qui peuvent se produire lors de la construction ou de la mise en œuvre de tels algorithmes. Points bonus si la méthode incorrecte a été utilisée dans un...
Des suggestions pour une bonne source pour apprendre les méthodes
C'est une question récurrente (voir cet article , cet article et cet article ), mais j'ai un tour différent. Supposons que j'ai un tas d'échantillons d'un échantillonneur MCMC générique. Pour chaque échantillon , je connais la valeur du log vraisemblance et du log prior . Si cela aide, je connais...
J'ai un algorithme MCMC particulier que je voudrais porter en C / C ++. Une grande partie du calcul coûteux est déjà en C via Cython, mais je veux que l'échantillonneur entier soit écrit dans un langage compilé afin que je puisse simplement écrire des wrappers pour Python / R / Matlab / peu...
J'essaie d'avoir une idée des avantages et des inconvénients relatifs, ainsi que des différents domaines d'application de ces deux schémas MCMC. Quand utiliseriez-vous lequel et pourquoi? Quand l'un pourrait-il échouer mais pas l'autre (par exemple, où la console HMC est-elle applicable mais pas...
Je me suis récemment lancé dans l'ajustement de modèles mixtes de régression dans le cadre bayésien, en utilisant un algorithme MCMC (fonction MCMCglmm dans R en fait). Je crois avoir compris comment diagnostiquer la convergence du processus d'estimation (trace, tracé de geweke, autocorrélation,...
Sur la base du peu de connaissances que j'ai sur les méthodes MCMC (Markov chain Monte Carlo), je comprends que l'échantillonnage est une partie cruciale de la technique susmentionnée. Les méthodes d'échantillonnage les plus couramment utilisées sont l'hamiltonien et la métropole. Existe-t-il un...
Lorsque je code une simulation Monte Carlo pour un problème et que le modèle est assez simple, j'utilise un échantillonnage Gibbs très basique. Lorsqu'il n'est pas possible d'utiliser l'échantillonnage de Gibbs, je code le manuel Metropolis-Hastings que j'ai appris il y a des années. La seule...
Lorsque nous travaillons avec la chaîne de Markov Monte Carlo pour tirer l'inférence, nous avons besoin d'une chaîne qui se mélange rapidement, c'est-à-dire qui traverse rapidement le support de la distribution postérieure. Mais je ne comprends pas pourquoi nous avons besoin de cette propriété, car...
Il existe différents types d'algorithmes MCMC: Metropolis-Hastings Gibbs Échantillonnage d'importance / rejet (lié). Pourquoi utiliser un échantillonnage de Gibbs au lieu de Metropolis-Hastings? Je soupçonne qu'il y a des cas où l'inférence est plus traitable avec l'échantillonnage de Gibbs qu'avec...
Je viens de faire quelques lectures sur l'échantillonnage de Gibbs et l'algorithme de Metropolis Hastings et j'ai quelques questions. Si je comprends bien, dans le cas de l'échantillonnage de Gibbs, si nous avons un problème multivarié important, nous échantillonnons à partir de la distribution...
Je lis sur MCMC adaptatif (voir par exemple, le chapitre 4 du Handbook of Markov Chain Monte Carlo , éd. Brooks et al., 2011; et aussi Andrieu et Thoms, 2008 ). nnnp ( n )p(n)p(n)limn → ∞p ( n ) = 0limn→∞p(n)=0\lim_{n \rightarrow \infty} p(n) = 0 Ce résultat est (a posteriori) intuitif,...
Je lisais aujourd'hui le blog de Christian Robert et j'aimais beaucoup le nouvel algorithme de Metropolis-Hastings dont il parlait. Cela semblait simple et facile à mettre en œuvre. Chaque fois que je code MCMC, j'ai tendance à m'en tenir à des algorithmes MH très basiques, tels que des mouvements...
La précision est définie comme: p = true positives / (true positives + false positives) Est - il exact que, true positiveset false positivesapproche 0, la précision approche 1? Même question pour rappel: r = true positives / (true positives + false negatives) J'implémente actuellement un test...
Je connais assez bien l'ajustement de paramètres continus, en particulier les méthodes basées sur le gradient, mais pas beaucoup d'ajustement de paramètres discrets. Quels sont les algorithmes / techniques MCMC couramment utilisés pour ajuster des paramètres discrets? Existe-t-il des algorithmes à...