Qu'est-ce que le «mélange» dans un modèle de mélange gaussien

8

Nous étudions souvent le modèle de mélange gaussien comme un modèle utile dans l'apprentissage automatique et ses applications.

Quelle est la signification physique de ce " mélange "?

Est-il utilisé parce qu'un modèle de mélange gaussien modélise la probabilité d'un certain nombre de variables aléatoires ayant chacune sa propre valeur de moyenne? Sinon, quelle est la bonne interprétation de ce mot.

Upendra01
la source

Réponses:

11

UNE La distribution combine différentes distributions de composants avec des poids qui totalisent généralement un (ou peuvent être renormalisés). UNE est le cas particulier où les composants sont gaussiens.

Par exemple, voici un mélange de 25% et 75% , que vous pourriez appeler "une partie et trois parties ":N(2,1)N(2,1)N(2,1)N(2,1)

xx <- seq(-5,5,by=.01)
plot(xx,0.25*dnorm(xx,-2,1)+0.75*dnorm(xx,2,1),type="l",xlab="",ylab="")

mélange

Essentiellement, c'est comme une recette. Jouez un peu avec les poids, les moyens et les écarts pour voir ce qui se passe, ou regardez les deux balises sur CV.

Stephan Kolassa
la source
7

Oui, un mélange gaussien est appelé de cette façon car il est supposé que les données observées proviennent d'une distribution de mélange gaussienne qui se compose de gaussiens avec leurs propres moyennes et variances. Cependant, les classes sont latentes, tout comme l'indicateur vous indiquant à quelle classe appartient une observation.KK

L'objectif de la modélisation des mélanges est désormais d'estimer la classe la plus probable pour chaque observation. Par conséquent, la modélisation des mélanges gaussiens peut être considérée comme un problème de données manquantes. L'estimation se fait généralement à l'aide de l'algorithme EM.

tomka
la source
puis-je supposer que les K gaussiens sont liés les uns aux autres (à travers des poids tels que leur somme est égale à un)
Upendra01
@Snowbell Oui, on suppose généralement que les poids sont normalisés dans le sens où ils
totalisent