Étrange trace de vraisemblance de la chaîne MCMC

8

J'ai un modèle qui va: Single parameter -> Complex likelihood function -> Log-likelihood. J'ai exécuté une chaîne MCMC (en utilisant pymc) et tracé la trace du paramètre et la log-vraisemblance. L'estimation des paramètres s'est avérée raisonnable, mais le tracé de log-vraisemblance me semble étrange.

entrez la description de l'image ici

La log-vraisemblance ne dépasse jamais une certaine valeur. Je suppose que cela a du sens, si cette valeur est la valeur de vraisemblance maximale, mais je n'ai jamais vu de trace de vraisemblance qui ressemble à ceci auparavant. ma question est: est-ce normal?

C_Z_
la source
J'ai répondu à votre question mais je vois que vous avez commencé à en obtenir une prime. Cela signifie-t-il que ma réponse n'est pas satisfaisante et que vous recherchez quelque chose de plus? Si oui, pourquoi n'a-t-il pas répondu à votre question? Quel genre de réponse recherchez-vous? Je serais heureux de l'éditer si ce n'était pas clair etc.
Tim
Difficile de répondre sans en savoir plus sur votre problème. Mis à part Q0, quel est votre espace d'état? Quelle méthode MCMC utilisez-vous? Si vous zoomez sur la trace de vraisemblance logarithmique, oscille-t-elle en dessous du maximum (avec de petites oscillations) ou obtenez-vous réellement beaucoup d'échantillons directement sur la valeur maximale? Des détails que vous pouvez épargner sur la probabilité?
lacerbi

Réponses:

5

Log-vraisemblance est une somme de log-densités sur certains points de données, étant donné certaines valeurs de paramètres. Rappelons que les densités sont des mesures relatives de la "probabilité par pied" . Cela signifie qu'ils peuvent être arbitrairement bas ou élevés, comme dans cet exemple de densité uniforme . Puisque vous additionnez les estimations de densité pour différents points, elles seront toujours au moins fois la valeur minimale possible compte tenu de vos données et paramètres. Étant donné que votre algorithme MCMC se promène dans un espace de paramètres, la similitude des log-vraisemblances serait proportionnelle à la «distance» avec laquelle il saute dans les étapes suivantes. Donc, étant donné les informations limitées que vous avez fournies, il n'y a rien d'étrange dans ces valeurs car il n'y a pas de valeurs de vraisemblance "typiques".N

Tim
la source