Quels sont les avantages de donner certaines valeurs initiales aux probabilités de transition dans un modèle de Markov caché? Finalement, le système les apprendra, alors quel est l'intérêt de donner des valeurs autres que aléatoires? L'algorithme sous-jacent fait-il une différence comme Baum –...
Mathématiquement, on voit souvent que les expressions et les algorithmes pour la maximisation des attentes (EM) sont souvent plus simples pour les modèles mixtes, mais il semble que presque tout (sinon tout) qui peut être résolu avec EM peut également être résolu avec MLE (par, disons, la méthode...
Le modèle de régression de Poisson gonflé à zéro est défini pour un échantillon par et il suppose en outre que les paramètres et satisfontY i = { 0 avec probabilité p i + ( 1 - p i ) e - λ i k avec probabilité ( 1 - p i ) e - λ i λ k i / k ! λ = ( λ 1 , … , λ n ) p =( y1, … ,...
Quelqu'un peut-il préciser comment les modèles de Markov cachés sont liés à la maximisation des attentes? J'ai parcouru de nombreux liens mais je n'ai pas pu trouver une vue claire.
J'essaie d'implémenter un algorithme EM pour le modèle d'analyse factorielle suivant; Wj=μ+Baj+ejforj=1,…,nWj=μ+Baj+ejforj=1,…,nW_j = \mu+B a_j+e_j \quad\text{for}\quad j=1,\ldots,n où est un vecteur aléatoire à p dimensions, a j est un vecteur à q dimensions de variables latentes et B est une...
Supposons que vous ayez une population avec unités, chacune avec une variable aléatoire . Vous observez valeurs pour toute unité pour laquelle . Nous voulons une estimation de .NNNn = N - n 0 X i > 0 λXje∼ Poisson ( λ )Xi∼Poisson(λ)X_i \sim \text{Poisson}(\lambda)n = N- n0n=N−n0n = N-n_0Xje>...
Dans cette question populaire , une réponse très positive fait que MLE et Baum Welch sont séparés dans le montage HMM. Pour les problèmes de formation, nous pouvons utiliser les 3 algorithmes suivants: MLE (estimation de vraisemblance maximale), formation Viterbi (NE PAS confondre avec le décodage...
La question est basée sur l'article intitulé: Reconstruction d'images en tomographie optique diffuse à l'aide du modèle couplé de transport et de diffusion radiatifs Lien de téléchargement Les auteurs appliquent l'algorithme EM avec régularisation de densité d'un vecteur inconnu pour estimer les...
J'apprends actuellement des modèles bayésiens hiérarchiques en utilisant JAGS de R, et aussi pymc en utilisant Python ( "Méthodes bayésiennes pour les pirates" ). Je peux obtenir une certaine intuition de ce post : "vous vous retrouverez avec une pile de chiffres qui ressemble" comme si "vous aviez...
J'étudie le modèle du mélange gaussien et je pose cette question moi-même. Supposons que les données sous-jacentes soient générées à partir d'un mélange de distribution gaussienne et que chacune d'elles ait un vecteur moyen μ k ∈ R p , où 1 ≤ k ≤ K et chacune d'elles ait la même matrice de...
J'ai un modèle de mélange dont je veux trouver l'estimateur du maximum de vraisemblance à partir d'un ensemble de données et d'un ensemble de données partiellement observées . J'ai mis en œuvre à la fois l'étape E (calcul de l'espérance de étant donné et les paramètres actuels ), et l'étape M, pour...
Je travaille sur un logiciel qui devrait déterminer les emplacements du monde réel (par exemple, les radars) à partir de plusieurs rapports basés sur le GPS . Un utilisateur conduira lorsqu'il signalera un emplacement, ce qui rend les rapports très inexacts. Pour résoudre ce problème, je dois...
Il s'agit d'un problème de pratique pour un examen à mi-parcours. Le problème est un exemple d'algorithme EM. J'ai des problèmes avec la partie (f). J'énumère les parties (a) - (e) à compléter et au cas où j'aurais fait une erreur plus tôt. Soit des variables aléatoires exponentielles indépendantes...
Je souhaite lier des enregistrements à travers 2 ensembles de données par prénom, nom et année de naissance. Cela pourrait-il être faisable avec l'algorithme EM, et si oui, comment? Considérez l'exemple suivant dans le 1er exemple: Carl McCarthy, 1967. Je vais rechercher dans tous les...
J'essaie de comprendre EM et d'essayer de déduire les paramètres de ce modèle en utilisant cette technique, mais j'ai du mal à comprendre comment commencer: Donc, j'ai un modèle de régression linéaire pondéré comme suit où j'ai des observations et les observations correspondantes . Le modèle de la...
Je comprends où l'étape E se produit dans l'algorithme (comme expliqué dans la section mathématique ci-dessous). Dans mon esprit, l'ingéniosité clé de l'algorithme est l'utilisation de l'inégalité de Jensen pour créer une limite inférieure à la vraisemblance logarithmique. En ce sens, prendre le...
Christopher Bishop définit la valeur attendue de la fonction de vraisemblance du journal des données complètes (c'est-à-dire en supposant que l'on nous donne à la fois les données observables X et les données latentes Z) comme suit:
Mon objectif est de voir que l'algorithme K-means est en fait un algorithme d'expectation-maximisation pour les mélanges gaussiens dans lequel toutes les composantes ont une covariance dans la limite comme .σ2Iσ2I\sigma^2 Ilimσ→0limσ→0\lim_{\sigma \to 0} Supposons que nous ayons un ensemble de...
Mon projet actuel peut m'obliger à construire un modèle pour prédire le comportement d'un certain groupe de personnes. l'ensemble de données de formation ne contient que 6 variables (id est uniquement à des fins d'identification): id, age, income, gender, job category, monthly spend dans laquelle...
J'ai essayé d'avoir une idée des différents problèmes dans les environnements fréquentistes où MCMC est utilisé. Je sais que MCMC (ou Monte Carlo) est utilisé pour ajuster les GLMM et peut-être dans les algorithmes EM Monte Carlo. Y a-t-il des problèmes plus fréquentistes lorsque MCMC est...