Il existe plusieurs versions des algorithmes adaptatifs de Metropolis Hastings. L'une est implémentée dans la fonction Metro_Hastings
de R
package MHadaptive
, voir ici . La référence qui y figure, Spiegelhalter et al. (2002), ne contient malheureusement pas de description d'aucun algorithme adaptatif, à ma connaissance. Cependant, l' Metro_Hastings
algorithme fonctionne très bien dans l'échantillonnage de la distribution postérieure du modèle que je considère, c'est pourquoi je veux comprendre ses détails.
J'ai un peu inversé l'algorithme. Quelqu'un reconnaît-il cet algorithme MH adaptatif? Voilà ce que cela fait:
Soit la densité cible. Initialisez .
Pour itérations :
- Proposer .
- Acceptez avec une probabilité . Si vous acceptez, définissez \ theta_ {0, i}: = \ theta_1 . Si rejet: \ theta_ {0, i}: = \ theta_ {0, i-1} .
Si , où un vecteur défini de sorte que tout élément de (par défaut ), il y a un espacement de itérations entre les éléments (par défaut ), et aucun élément (par défaut ), faites:
- Sélectionnez (par défaut ).
- Mise à jour: où l'estimateur du maximum de vraisemblance de la matrice de covariance de la variance de supposant une normalité multivariée.
Les étapes 1 et 2 sont MH standard. Les étapes 3 et 4 sont les adaptations qui se produisent aux étapes et utilisent les itérations passées pour mettre à jour vers la matrice de covariance des itérations passées.
la source
Réponses:
Votre description ressemble à l' algorithme adaptatif de Haario et al (1999) . L'idée est en effet de mettre à jour la matrice de covariance de la distribution de la proposition en utilisant un nombre fixe d'échantillons récents.
Notez que l'algorithme décrit dans Haario et al (1999) fonctionne bien, mais n'est PAS ergodique. Haario et al (2001) ont décrit un algorithme amélioré ergodique. L'idée est de mettre à jour la matrice de covariance de la distribution de la proposition en utilisant tous les échantillons précédents.
la source