Algorithme de Metropolis Hastings

11

J'ai besoin d'étudier les méthodes de Markov Chain Monte Carlo, pour être plus précis, j'ai besoin d'étudier l'algorithme de Metropolis Hastings et tout ça comme les critères de convergence.

Qui peut me prescrire un livre, ou un papier, ou un site Web, qui explique cet argument en utilisant des termes simples, mais sans être trivial?

references mcmc Neptune
la source

Réponses:

12

Un excellent document introductif est celui de Chib et Greenberg

Comprendre l'algorithme de métropole-Hasting

Une discussion magistrale et concise de la théorie est celle de Tierney

Chaînes de Markov pour l'exploration des distributions postérieures

Zen
la source
Merci beaucoup. Mon objectif principal est de connaître les critères de convergence, mais je ne connais que la base de Metropolis Hastings, donc tout cela est utile.
Neptune
1
Commencez à étudier la convergence avec Tierney. Un traitement exhaustif se trouve dans Meyn et Tweedie probabilité.ca
MT
Et qu'en est-il du recuit simulé avec Metropolis Hastings? J'ai lu ceci mais qu'en est-il de l'intégration avec Metropolis Hastings?
Neptune
1
Le livre de Robert et Casella traite du recuit simulé. amazon.com/Monte-Statistical-Methods-Springer-Statistics/dp/…
Zen
Le lien "Comprendre ..." est rompu.
EngrStudent
6

Pour un livre qui n'est pas "lourd sur les mathématiques", je recommanderais:

Allez au chapitre 7.

Le code R est fourni dans le livre, vous pourrez donc jouer avec les exemples et voir, concrètement, les effets de la modification du nombre de burn-ins, etc.

Graeme Walsh
la source
3

Il y a un très bon article de Christian Robert décrivant l'algorithme MH en détail

Robert, CP (2015). L'algorithme de Metropolis-Hastings. arXiv preprint arXiv: 1504.01896.

et grand livre sur les méthodes de Monte Carlo en général du même auteur

Robert, C. et Casella, G. (2013). Méthodes statistiques de Monte Carlo. Springer Science & Business Media.

Tim
la source
0

En ce qui concerne les critères de convergence, la plupart des travaux portent sur la convergence est le sens de la distance de variation totale (TV). Principalement parce qu'il y a beaucoup de théorie des probabilités élaborée pour la distance TV. Il y a un beau papier d'enquête et aussi du côté théorique il y a le papier de Roberts et Rosenthal qui donne plusieurs théorèmes sur les critères de convergence. Du côté plus pratique, il y a plusieurs articles écrits par Jim Hobert qui fournissent des exemples d'application d'un des théorèmes de Roberts et Rosenthal à MCMC. En général, la partie délicate de l'application de ce théorème semble proposer une bonne fonction de dérive de Lyapunov.

Lucas Roberts
la source
-1

Voici une analogie grossière que j'ai utilisée pour donner à peu près la saveur du MHA: La prochaine fois que vous êtes au supermarché:

  1. Prenez un article au hasard et mettez-le dans votre panier.

  2. Prenez un autre article avec votre main droite.

  3. Si l'article dans votre main est moins cher que le dernier article que vous avez acheté, mettez-le dans votre panier.

  4. Sinon, placez l'article dans votre panier avec probabilité (prix du dernier) ÷ (prix en main), sinon remettez-le en place.

  5. Répétez les étapes 2 à 4 jusqu'à ce que vingt-neuf articles supplémentaires soient dans votre panier.

  6. Retirez les 15 premiers articles de votre panier.

  7. Commander et souhaiter une agréable journée à la caissière.

  8. Faites rouler le chariot vers votre voiture.

  9. Rentrer à la maison.

Ferdi
la source