J'ai essayé d'apprendre les méthodes MCMC et j'ai découvert l'échantillonnage de Hastings, Gibbs, Importance et Reject dans Metropolis. Certaines de ces différences sont évidentes, c’est-à-dire que Gibbs est un cas particulier de Metropolis Hastings lorsque nous avons les conditions complètes, alors que d’autres sont moins évidentes, comme lorsque nous voulons utiliser MH dans un échantillonneur de Gibbs, etc. moyen simple de voir l’essentiel des différences entre chacun d’eux? Merci!
mcmc
monte-carlo
gibbs
metropolis-hastings
importance-sampling
utilisateur1398057
la source
la source
Réponses:
Comme indiqué dans notre livre avec George Casella, des méthodes statistiques Monte Carlo , ces méthodes sont utilisées pour des échantillons de produire à partir d' une distribution donnée, avec une densité par exemple, que ce soit pour obtenir une idée de cette distribution, ou pour résoudre un problème d'intégration ou d' optimisation liée avec f . Par exemple, pour trouver la valeur de ∫ X h ( x ) f ( x ) d xf f ou le mode de la distribution de h ( X ) lorsque X ~ f ( x ) ouun quantile de cette distribution.
Pour comparer les méthodes de Monte Carlo à la chaîne de Markov et à la chaîne de Markov que vous mentionnez selon des critères pertinents, il est nécessaire de définir l'arrière-plan du problème et les objectifs de l'expérience de simulation, car les avantages et les inconvénients de chacune varient d'un cas à l'autre.
Voici quelques remarques génériques qui ne couvrent certainement pas la complexité de la question :
la source
h(x)
signification concrèteh(x)f(x)dx
dans un scénario d'analyse bayésienne. Nous essayons d'obtenir le postérieur, compte tenu de la priorité et des données. Cependant, il semble qu'avec toutes ces méthodes d'échantillonnage, nous essayons de faire une approximationf(x)
. Alors peut-on dire quef(x)
c'est déjà la postérieure que nous recherchons et qu'il neh(x)
s'agit que d'une fonction arbitraire que nous pourrions également mettre en place avec la postérieuref(x)
? Ou n'ai-je pas bien compris? Merci.