Machine Boltzmann restreinte: comment est-elle utilisée dans l'apprentissage automatique?

Contexte:

Oui, la machine Boltzmann restreinte (RBM) PEUT être utilisée pour initier les poids d'un réseau neuronal. De plus, il PEUT être utilisé de manière "couche par couche" pour construire un réseau de croyances profondes (c'est-à-dire pour former une -ième couche sur le dessus de la -ième couche, puis pour former le ème couche sur le dessus de la ème couche, rincer et répéter ...)$n$$(n-1)$$n+1$$n$ .

En ce qui concerne la façon d'utiliser RBM, des détails peuvent être trouvés dans le fil de Good tutorial for Restricted Boltzmann Machines (RBM) où certains papiers et tutoriels peuvent être trouvés.

Ma question serait:

• La GAR est-elle vraiment utilisée dans des projets industriels ou des projets académiques
• Si oui, comment et quels projets sont-ils utilisés?
• Toute bibliothèque populaire (comme tensorflow, Caffe, Theono, etc.) fournit un module RBM?

Merci d'avoir partagé. Je souhaite savoir si la GAR est vraiment utile dans la pratique.

La GAR a été l'un des premiers moyens pratiques de former / apprendre un réseau profond, ayant plus d'une ou deux couches. Et le réseau de croyances profondes a été proposé par Geoffrey Hinton, qui est considéré comme l'un des `` pères du deep learning '', je suppose, bien que Yann LeCun soit l'autre `` père '' principal du deep learning, je pense, ou c'est ainsi que je le vois. Bien sûr, tout a déjà été inventé il y a des années par Jurgen Schmidhuber :-)

Ainsi, les RBM sont célèbres parce que 1. l'une des premières façons de faire du deep learning 2. Geoffrey Hinton.

Cependant, dans la pratique, ils sont sûrement utilisés et utilisables dans la recherche universitaire, car il y a beaucoup de gens qui essaient de trouver un créneau unique, dans lesquels ils peuvent être experts, et être l'expert mondial dans un créneau de RBM est un bon niche comme toute autre. Cependant, dans la pratique, dans l'industrie, même si je ne prétends pas qu'ils ne sont jamais utilisés, mais ils sont extrêmement rares. Il existe tout simplement tellement de techniques très standard qui s'entraînent très rapidement et facilement, comme la régression logistique et les réseaux de neurones convolutifs à action directe. Pour les personnes non supervisées, des choses comme les GAN sont très populaires en ce moment.

Il est possible d'utiliser des RBM pour traiter les problèmes typiques qui surviennent dans la collecte de données (qui pourraient être utilisés par exemple pour former un modèle d'apprentissage automatique). Ces problèmes incluent des ensembles de données déséquilibrés (dans un problème de classification) ou des ensembles de données avec des valeurs manquantes (les valeurs de certaines entités sont inconnues). Dans le premier cas, il est possible de former un RBM avec des données de la classe minoritaire et de l'utiliser pour générer des exemples pour cette classe tandis que dans le second cas, il est possible de former un RBM séparément pour chaque classe et de découvrir des valeurs de caractéristiques inconnues.

Une autre application typique des RBM est le filtrage collaboratif ( http://dl.acm.org/citation.cfm?id=1273596 ).

En ce qui concerne les bibliothèques populaires, je pense que deeplearning4j est un bon exemple ( http://deeplearning4j.org ).