Quelle est la différence entre la VAE et la rétropropagation stochastique pour les modèles génératifs profonds?

10

Quelle est la différence entre l' encodage bayésien variationnel automatique et la rétropropagation stochastique pour les modèles génératifs profonds ? L'inférence dans les deux méthodes conduit-elle aux mêmes résultats? Je ne suis au courant d'aucune comparaison explicite entre les deux méthodes, malgré le fait que les deux groupes d'auteurs se citent.

Dionysis M
la source

Réponses:

2

La rétropropagation stochastique et l'inférence approximative dans les modèles génératifs profonds semblent simplement considérer une mise en œuvre un peu plus générale des mêmes idées. Comparés au papier VAE, ils:

  • proposer plusieurs ensembles de variables latentes, contrairement à la VAE qui n'en a qu'une

  • considérer les postérieures gaussiennes non diagonales, ce qui rend plus difficile l'optimisation

shimao
la source