Questions marquées «mcmc»

Je suis intrigué par le concept d'un modèle de Markov à entropie maximale (MEMM) et je songe à l'utiliser pour un marqueur de partie de la parole (POS). En ce moment, j'utilise un classificateur conventionnel d'entropie maximale (ME) pour baliser chaque mot individuel. Cela utilise un certain...

Dans l'algorithme Metropolis – Hastings d'échantillonnage d'une distribution cible, supposons: πjeπi\pi_{i} soit la densité cible à l'état ,jeii πjπj\pi_j la densité cible à l'état proposé ,jjj hje jhijh_{ij} la densité de proposition pour la transition vers l'état étant donné l'état actuel...

J'ai une probabilité assez faible conduisant l'échantillonneur Metropolis-Hastings à se déplacer dans l'espace des paramètres de manière très irrégulière, c'est-à-dire qu'aucune convergence ne peut être atteinte quels que soient les paramètres de distribution de la proposition (dans mon cas, il est...

J'essaie d'échantillonner à partir d'un postérieur ayant de nombreux modes particulièrement éloignés les uns des autres en utilisant MCMC. Il semble que dans la plupart des cas, un seul de ces modes contient le 95% hpd que je recherche. J'ai essayé d'implémenter des solutions basées sur la...

Je suis tombé sur cet article où il est dit que dans l'échantillonnage de Gibbs, chaque échantillon est accepté. Je suis un peu confus. Comment se fait-il que chaque échantillon qu'il a accepté converge vers une distribution stationnaire. En général, nous acceptons l'algorithme Metropolis comme min...

D'après ce que j'ai lu, Hamiltonian Monte Carlo est la MCMCméthode "goto" lorsque votre problème est de grande dimension. Concrètement, combien de dimensions 10, 100, 1 000, 10 000, 100 000, ..., c'est trop? Le coût de calcul deviendra sans aucun doute un problème et je suppose que le modèle...

Je lis actuellement le livre " Programmation probabiliste et méthodes bayésiennes pour les pirates ". J'ai lu quelques chapitres et je pensais au premier chapitre où le premier exemple avec pymc consiste à détecter un point de sorcière dans les messages texte. Dans cet exemple, la variable...

Markov Chain Monte Carlo est une méthode basée sur les chaînes de Markov qui nous permet d'obtenir des échantillons (dans un cadre Monte Carlo) à partir de distributions non standard à partir desquelles nous ne pouvons pas prélever directement des échantillons. Ma question est de savoir pourquoi la...

J'apprends actuellement des modèles bayésiens hiérarchiques en utilisant JAGS de R, et aussi pymc en utilisant Python ( "Méthodes bayésiennes pour les pirates" ). Je peux obtenir une certaine intuition de ce post : "vous vous retrouverez avec une pile de chiffres qui ressemble" comme si "vous aviez...

J'essaie de comprendre le fonctionnement interne de Hamiltonian Monte Carlo (HMC), mais je ne peux pas comprendre pleinement la partie lorsque nous remplaçons l'intégration temporelle déterministe par une proposition Metropolis-Hasting. Je lis le génial article d'introduction A Conceptual...

J'évalue actuellement un modèle de volatilité stochastique avec les méthodes de Markov Chain Monte Carlo. Ainsi, j'implémente les méthodes d'échantillonnage de Gibbs et Metropolis. En supposant que je prenne la moyenne de la distribution postérieure plutôt qu'un échantillon aléatoire, est-ce ce que...

Fermé. Cette question est hors sujet . Il n'accepte pas actuellement de réponses. Voulez-vous améliorer cette question? Mettez à jour la question afin qu'elle soit sur le sujet pour la validation croisée. Fermé il y a 8 mois . Je suis actuellement en train d'implémenter un modèle de prédiction des...

Dans MCMC, comment le temps de rodage est-il choisi? En d'autres termes, combien de temps devez-vous attendre avant de penser que la chaîne Markov a atteint sa distribution limite?

Pourquoi hiérarchique? : J'ai essayé de rechercher ce problème, et d'après ce que je comprends, c'est un problème "hiérarchique", parce que vous faites des observations sur les observations d'une population, plutôt que de faire des observations directes de cette population. Référence:...

La nature discrète du DP le rend impropre à des applications générales dans les paramètres non paramétriques bayésiens, mais il est bien adapté au problème de placement des a priori sur les composants du mélange dans la modélisation des mélanges. Cette citation est extraite des processus...

Dans une implémentation MCMC de modèles hiérarchiques, avec des effets aléatoires normaux et un Wishart antérieur pour leur matrice de covariance, l'échantillonnage de Gibbs est généralement utilisé. Cependant, si nous changeons la distribution des effets aléatoires (par exemple, vers Student's-t...

Imaginez que nous échantillonnons une matrice de covariance à partir d'une distribution de Wishart par MCMC. À chaque itération, nous obtenons une nouvelle matrice d'échantillon SiSiS_i de la distribution Wishart. Question : Compte tenu de la trace qui contient tous les

Dans la chaîne de Metropolis-Hastings Markov Monte Carlo, la distribution de la proposition peut être n'importe quoi, y compris le gaussien (selon Wikipedia). Q: Quelle est la motivation pour utiliser autre chose que le gaussien? Le gaussien fonctionne, c'est facile à évaluer, c'est rapide et tout...

J'ai lu les excellents commentaires sur la façon de traiter les valeurs manquantes avant d'appliquer SVD, mais j'aimerais savoir comment cela fonctionne avec un exemple simple: Movie1 Movie2 Movie3 User1 5 4 User2 2 5 5 User3 3 4 User4 1 5 User5 5 1 5 Étant donné la matrice ci-dessus, si je...

J'ai un modèle qui va: Single parameter -> Complex likelihood function -> Log-likelihood. J'ai exécuté une chaîne MCMC (en utilisant pymc) et tracé la trace du paramètre et la log-vraisemblance. L'estimation des paramètres s'est avérée raisonnable, mais le tracé de log-vraisemblance me semble...