Calcul de la log-vraisemblance pour un MLE donné (chaînes de Markov)

9

Je travaille actuellement avec des chaînes de Markov et j'ai calculé l'estimation du maximum de vraisemblance en utilisant les probabilités de transition suggérées par plusieurs sources (c'est-à-dire le nombre de transitions de a vers b divisé par le nombre de transitions globales de a vers d'autres nœuds).

Je veux maintenant calculer la log-vraisemblance du MLE.

fsociety
la source
Vous avez déjà calculé l'estimation du maximum de vraisemblance des probabilités de transition et maintenant vous voulez calculer le log-vraisemblance de quoi exactement?
Nick

Réponses:

11

Soit un chemin de la chaîne markovienne et soit la probabilité d'observer le chemin lorsque est la vraie valeur du paramètre (alias la fonction de vraisemblance pour ). En utilisant la définition de la probabilité conditionnelle, nous savons{Xi}i=1TPθ(X1,...,XT)θθ

Pθ(X1,...,XT)=Pθ(XT|XT1,...,X1)Pθ(X1,...,XT1)

Puisqu'il s'agit d'une chaîne de Markov, nous savons que , donc ceci simplifie cela pourPθ(XT|XT1,...,X1)=Pθ(XT|XT1)

Pθ(X1,...,XT)=Pθ(XT|XT1)Pθ(X1,...,XT1)

Maintenant, si vous répétez cette même logique fois, vous obtenezT

Pθ(X1,...,XT)=i=1TPθ(Xi|Xi1)

où doit être interprété comme l'état initial du processus. Les termes sur le côté droit ne sont que des éléments de la matrice de transition. Étant donné que c'était la probabilité logarithmique que vous avez demandée, la réponse finale est:X0

L(θ)=i=1Tlog(Pθ(Xi|Xi1))

Il s'agit de la probabilité d'une chaîne de Markov unique - si votre ensemble de données comprend plusieurs chaînes de Markov (indépendantes), la probabilité totale sera une somme de termes de ce formulaire.

Macro
la source
Wow, merci beaucoup pour la réponse. Dans ce cas, est la probabilité de "transition" tirée du MLE, non? Pθ
fsociety
@ph_singer, vous êtes les bienvenus. est la probabilité de passer de l'état à , étant donné la valeur du paramètre, . Si vous n'avez imposé aucune structure à la matrice de transition (ce à quoi cela ressemble), alors indique simplement le vecteur des probabilités de transition (et les MLE ne sont que les proportions de l'échantillon, comme vous l'avez correctement indiqué dans votre énoncé de question), alors, oui : ne sera que la proportion d'échantillon de mouvements de l'état qui se sont retrouvés dans l'état . Pθ(Xi|Xi1)Xi1XiθθPθ^MLE(Xi|Xi1)Xi1Xi
Macro
Merci encore! Une dernière question: si j'utilise une autre commande (par exemple, k = 2), comment ce processus fonctionnerait-il alors?
fsociety
Pouvez-vous préciser ce que vous entendez par «commander»?
Macro
(+1) L'OP signifie probablement pour désigner un MC de second ordre , c'est-à-dire, en fonction des deux états précédents plutôt que juste le plus récent . k=2Xi1,Xi2Xi1
cardinal