Quelle est la différence entre l'APC régulière et l'APC probabiliste?

15

Je sais que l'APC régulière ne suit pas le modèle probabiliste pour les données observées. Quelle est donc la différence fondamentale entre PCA et PPCA ? En PPCA, le modèle de variable latente contient par exemple les variables observées , latentes (variables non observées ) et une matrice qui n'a pas à être orthonormée comme dans l'ACP ordinaire. Une autre différence que je peux penser de l'APC régulière ne fournit que les principaux composants, où l'APPC fournit la distribution probabiliste des données.yXW

Quelqu'un pourrait-il vous donner plus de lumière sur les différences entre PCA et PPCA?

pca Vengeance
la source
2
Voyez ici .
Ami Tavory
1
+1. Voir mes réponses ici stats.stackexchange.com/questions/208731 et aussi ici stats.stackexchange.com/questions/203087 . Avez-vous lu les diapositives auxquelles vous avez lié? Ils semblent tout expliquer en détail. Pouvez-vous suivre cette exposition ou est-ce trop compliqué?
amibe dit Réintégrer Monica
@amoeba, j'ai suivi les diapositives. J'obtiens cependant quelques différences. Cela ne me donne pas l'intuition claire que ce que PPCA peut faire que PCA ne peut pas faire? Que se passe-t-il techniquement en introduisant des variables latentes? L'estimation de la covariance comme dans le PPCA peut-elle aussi être faite dans le PCA régulier? Si vous pouvez ajouter une réponse, ce serait vraiment utile
Vendetta
@amoeba, Ces deux questions sont assez bien répondues. En particulier la question sur le sous-espace principal dans l'ACP probabiliste. Cela me donne plus d'intuition pour comprendre l'estimation des principaux composants de W.
Vendetta
OK, je vais essayer de poster une réponse, mais je suis assez occupé ces jours-ci. J'essaierai de trouver du temps cette semaine, mais je pourrais le reporter à la semaine prochaine. (+1 soit dit en passant)
amibe dit Réintégrer Monica

Réponses:

9

Le but du PPCA n'est pas de donner de meilleurs résultats que le PCA, mais de permettre une large gamme d'extensions et d'analyses futures. Le document énonce clairement certains des avantages dans l'introduction, c'est-à-dire / par exemple:

"la définition d'une mesure de vraisemblance permet une comparaison avec d'autres techniques probabilistes, tout en facilitant les tests statistiques et en permettant l'application de modèles bayésiens".

Les modèles bayésiens en particulier connaissent une énorme renaissance ces derniers temps, par exemple VAE, "Auto-encoding variationational Bayes", https://arxiv.org/abs/1312.6114 . L'extension de l'ACP pour être utilisable dans des cadres variationnels et similaires a le potentiel pour un autre chercheur de dire «Oh hé, et si je fais ...?

Hugh Perkins
la source