Voici ma vieille question
Je voudrais demander si quelqu'un connaît la différence (s'il y a une différence) entre les modèles de Markov cachés (HMM) et le filtre à particules (PF), et par conséquent le filtre de Kalman, ou dans quelles circonstances nous utilisons quel algorithme. Je suis étudiant et je dois faire un projet, mais d'abord je dois comprendre certaines choses.
Ainsi, selon la bibliographie, les deux sont des modèles d'espace d'état , y compris des états cachés (ou latents ou non observés). Selon Wikipedia (Hidden_Markov_model) "dans HMM, l'espace d'état des variables cachées est discret, tandis que les observations elles-mêmes peuvent être discrètes (généralement générées à partir d'une distribution catégorique) ou continues (généralement à partir d'une distribution gaussienne). Les modèles de Markov cachés peuvent également être généralisés pour permettre des espaces d'états continus. Des exemples de tels modèles sont ceux où le processus de Markov sur des variables cachées est un système dynamique linéaire, avec une relation linéaire entre les variables liées et où toutes les variables cachées et observées suivent une distribution gaussienne. Dans des cas simples, comme le système dynamique linéaire qui vient d'être mentionné, l'inférence exacte est traitable (dans ce cas, en utilisant le filtre de Kalman); cependant, en général, l'inférence exacte dans les HMM avec des variables latentes continues est irréalisable, et des méthodes approximatives doivent être utilisées,"
Mais pour moi, c'est un peu déroutant… En termes simples, cela signifie-t-il la suite (basée également sur plus de recherches que j'ai faites):
- Dans HMM, l'espace d'état peut être discret ou continu . Les observations elles-mêmes peuvent également être discrètes ou continues . HMM est également un système dynamique linéaire et gaussien ou non gaussien.
- Dans PF, l'espace d'état peut être discret ou continu . Les observations elles-mêmes peuvent également être discrètes ou continues . Mais PF est un système dynamique non linéaire (et non gaussien?) (Est-ce leur différence?).
- Le filtre de Kalman (ressemble aussi à moi comme HMM) est utilisé lorsque nous avons un système dynamique linéaire et gaussien .
Aussi comment puis-je savoir quel algorithme choisir, parce que pour moi tous ceux-ci semblent les mêmes ... J'ai aussi trouvé un article (pas en anglais) qui dit que PF bien que puisse avoir des données linéaires (par exemple des données brutes d'un capteur-kinect qui reconnaît un mouvement), le système dynamique peut être non linéaire. Cela peut-il arriver? Est-ce correct? Comment?
Pour la reconnaissance des gestes, les chercheurs peuvent utiliser HMM ou PF, mais ils n'expliquent pas pourquoi ils sélectionnent chaque algorithme… Est-ce que quelqu'un sait comment je peux être aidé à distinguer ces algorithmes, à comprendre leurs différences et comment choisir le meilleur algorithme?
Je suis désolé si ma question est trop grande ou si certaines parties sont naïves mais je n'ai pas trouvé quelque part une réponse convaincante et scientifique. Merci beaucoup d'avance pour votre temps!
Voici ma NOUVELLE question (selon l'aide de @ conjugateprior)
Donc, avec une lecture plus approfondie, je voudrais mettre à jour certaines de mes parties de mon commentaire précédent et m'assurer que j'ai mieux compris ce qui se passe.
- Toujours en termes simples, le parapluie est constitué par les réseaux bayésiens dynamiques dans lesquels les modèles de HMM et de l'espace d'état sont inclus (sous-classes) ( http://mlg.eng.cam.ac.uk/zoubin/papers/ijprai.pdf ).
- De plus, la différence initiale entre les 2 modèles est que, dans HMM, les variables d'état cachées sont discrètes , tandis que les observations peuvent être discrètes ou continues . Dans PF, les variables d'état caché sont continues (vecteur d'état caché à valeur réelle), et les observations ont des distributions gaussiennes .
- Toujours selon @conjugateprior, chaque modèle a les 3 tâches suivantes: filtrage, lissage et prédiction. En filtrage, le modèle HMM utilise pour les variables d'état cachées discrètes la méthode Algorithme Forward, l'espace d'état utilise pour les variables continues et le système dynamique linéaire le filtre de Kalman, etc.
- Cependant, HMM peut également être généralisé pour autoriser des espaces d'état continus .
- Avec ces extensions de HMM, les 2 modèles semblent être conceptuellement identiques (comme cela est également mentionné dans Hidden Markov Model vs Markov Transition Model vs State-Space Model ...? ).
Je pense que j'utilise une terminologie un peu plus précise, mais tout est encore flou pour moi. Quelqu'un peut-il m'expliquer quelle est la différence entre le modèle HMM et le modèle State Space ?
Parce que je ne trouve vraiment pas de réponse adaptée à mes besoins.
Merci encore une fois!
Réponses:
Il sera utile de distinguer le modèle de l'inférence que vous souhaitez faire avec, car maintenant la terminologie standard mélange les deux.
Le modèle est la partie où vous spécifiez la nature de: l'espace caché (discret ou continu), la dynamique de l'état caché (linéaire ou non linéaire), la nature des observations (généralement conditionnellement multinomiales ou normales), et le modèle de mesure se connectant l'état caché aux observations. Les HMM et les modèles d'espace d'état sont deux de ces ensembles de spécifications de modèle.
Dans les situations où l'état est continu, la dynamique de l'état et la mesure linéaire et tout le bruit est normal, un filtre de Kalman fera ce travail efficacement. Son analogue lorsque l'état est discret est l'algorithme direct. Dans le cas où il y a non-normalité et / ou non-linéarité, on retombe sur des filtres approximatifs. Il existe des approximations déterministes, par exemple des filtres de Kalman étendus ou non parfumés, et il existe des approximations stochastiques, la plus connue étant le filtre à particules.
Le sentiment général semble être qu'en présence de non-linéarité inévitable dans l'état ou les parties de mesure ou de non-normalité dans les observations (les situations problématiques courantes), on essaie de s'en tirer avec l'approximation la moins chère possible. Donc, EKF puis UKF puis PF.
La littérature sur le filtre de Kalman non parfumé comporte généralement des comparaisons de situations où il pourrait fonctionner mieux que la linéarisation traditionnelle du filtre de Kalman étendu.
Le filtre à particules a une généralité presque complète - toute non-linéarité, toutes les distributions - mais il a, selon mon expérience, exigé un réglage assez soigneux et est généralement beaucoup plus lourd que les autres. Dans de nombreuses situations cependant, c'est la seule option.
En ce qui concerne la lecture: j'aime le ch.4-7 du filtrage et du lissage bayésien de Särkkä, bien qu'il soit assez concis. L'auteur met à disposition une copie en ligne pour un usage personnel. Sinon, la plupart des livres sur les séries temporelles de l'espace étatique couvriront ce matériau. Pour le filtrage des particules, il existe un Doucet et al. volume sur le sujet, mais je suppose que c'est assez vieux maintenant. Peut-être que d'autres indiqueront une référence plus récente.
la source