Les MCMC sont-ils sans mémoire?

18

J'essaie de comprendre ce que la chaîne Markov Monte Carlo (MCMC) est de la page Wikipedia française. Ils disent "que les méthodes Monte Carlo de la chaîne de Markov consistent à générer un vecteur uniquement à partir des données vectorielles c'est donc un processus" sans mémoire ""xixi1

Les méthodes de Monte-Carlo par chaînes de Markov cohérentes à générer un vecteur uniquement à partir de la donnée du vecteur ; c'est donc un processus «sans mémoire»,xixi1

Je ne comprends pas pourquoi ils disent que MCMC est "sans mémoire" dans la mesure où nous utilisons les informations des données vectorielles pour générer .xi1xi

IggyPass
la source
3
Parce que vous n'avez à "vous souvenir" de rien du processus, à l'exception du dernier état de la chaîne. Je suppose que vous avez encore besoin de mémoire, mais ce n'est qu'une information.
user2974951
Xje-1 n'est pas "mémorisé"; c'est l'entrée explicite.
chepner

Réponses:

28

La caractéristique qui définit une chaîne de Markov est que la distribution conditionnelle de sa valeur actuelle conditionnelle aux valeurs passées ne dépend que de la valeur précédente . Ainsi, chaque chaîne de Markov est "sans mémoire" dans la mesure où seule la valeur précédente affecte la probabilité conditionnelle actuelle et tous les états précédents sont "oubliés". (Vous avez raison, ce n'est pas complètement sans mémoire - après tout, la distribution conditionnelle de la valeur actuelle dépend de la valeur précédente.) C'est vrai pour MCMC et aussi pour toute autre chaîne de Markov.

Réintégrer Monica
la source
9
Si vous faites un pas en avant, vous pouvez dire que la distribution conditionnelle de ses valeurs futures conditionnelle aux valeurs passées et présentes dépend uniquement de la valeur actuelle et en ce sens, la mémoire du passé n'est pas nécessaire tant que la position actuelle est connue
Henry
Sauf que vous pouvez toujours ajuster l'espace d'état pour stocker toute quantité finie d'informations sur le passé. Il est toujours markovien de, par exemple, dépendre de vos dix derniers états, car vous pouvez simplement étendre l'espace d'état pour inclure ces informations dans "l'état précédent".
David Richerby
15

Bien que nous ayons la bonne réponse, je voudrais développer un peu la sémantique intuitive de l'énoncé. Imaginez que nous redéfinissions nos indices de manière à générer le vecteur partir du vecteur . Maintenant, l'instant est métaphoriquement considéré comme "le présent", et tous les vecteurs venant "plus tôt que" sont pas pertinents pour calculer le prochain à l'avenir.Xje+1XjejeXje

Grâce à cette simple renumérotation, il devient «complètement sans mémoire» au sens intuitif - c'est-à-dire, peu importe comment le système de Markov est devenu dans son état actuel . Seul l'état présent détermine les états futurs , sans utiliser aucune information du passé (Xje-n ) états.

Un point peut-être plus subtil: le mot "mémoire" est également utilisé parce que cela signifie également que vous ne pouvez pas déduire des états passés de l'état actuel. Une fois que vous êtes à Xje , vous ne savez pas ce qui s'est passé "avant" pendant Xje-n . C'est l'opposé des systèmes qui codent la connaissance des états passés dans l'état actuel.

rumtscho
la source
5

Tu te réveilles. Vous n'avez aucune idée de comment vous êtes arrivé là où vous êtes. Vous regardez autour de vous et décidez de la suite des choses uniquement en fonction des informations dont vous disposez à ce moment-là. C'est essentiellement la même situation que ce qui se passe au MCMC.

XjeXje-1Xje-1Xje+1Xje

Dason
la source
2
Appelons ça la méthode Hangover
IggyPass
@ThePassenger Appelez-le comme vous voulez. S'il vous plaît, passez l'aspirine.
Dason