Est-il judicieux de former un CNN en tant qu'encodeur automatique?

Je travaille à l'analyse des données EEG, qui devront éventuellement être classées. Cependant, obtenir des étiquettes pour les enregistrements coûte quelque peu cher, ce qui m'a amené à envisager des approches non supervisées, afin de mieux utiliser nos quantités assez importantes de données non étiquetées.

Cela conduit naturellement à envisager des encodeurs automatiques empilés, ce qui peut être une bonne idée. Cependant, il serait également judicieux d'utiliser des réseaux de neurones convolutifs, car une sorte de filtrage est généralement une approche très utile de l'EEG, et il est probable que les époques considérées devraient être analysées localement, et non dans leur ensemble.

Existe-t-il un bon moyen de combiner les deux approches? Il semble que lorsque les gens utilisent CNN, ils utilisent généralement une formation supervisée, ou quoi? Les deux principaux avantages de l'exploration des réseaux de neurones pour mon problème semblent être l'aspect non supervisé et le réglage fin (il serait intéressant de créer un réseau sur les données de population, puis de peaufiner pour un individu, par exemple).

Alors, est-ce que quelqu'un sait si je pourrais simplement pré-entraîner un CNN comme s'il s'agissait d'un encodeur automatique "paralysé", ou serait-ce inutile?

Dois-je envisager une autre architecture, comme un réseau de croyances profondes, par exemple?

Oui, il est logique d'utiliser des CNN avec des encodeurs automatiques ou d'autres méthodes non supervisées. En effet, différentes façons de combiner les CNN avec une formation non supervisée ont été essayées pour les données EEG, notamment en utilisant des auto-encodeurs (convolutionnels et / ou empilés).

Exemples:

L'apprentissage approfondi des fonctionnalités pour les enregistrements EEG utilise des auto-encodeurs convolutifs avec des contraintes personnalisées pour améliorer la généralisation entre les sujets et les essais.

La prévision basée sur l'EEG des performances cognitives du conducteur par un réseau de neurones convolutionnels profonds utilise des réseaux de croyances profondes convolutionnelles sur des électrodes uniques et les combine avec des couches entièrement connectées.

Une nouvelle approche d'apprentissage en profondeur pour la classification des signaux d'imagerie des moteurs EEG utilise des autoencodeurs empilés entièrement connectés sur la sortie d'un CNN supervisé (assez peu profond).

Mais les CNN purement supervisés ont également réussi sur les données EEG, voir par exemple:

EEGNet: un réseau convolutionnel compact pour les interfaces cerveau-ordinateur basées sur l'EEG

Apprentissage en profondeur avec des réseaux de neurones convolutifs pour la cartographie du cerveau et le décodage des informations liées aux mouvements de l'EEG humain (divulgation: je suis le premier auteur de ce travail, plus de travaux connexes voir p. 44)

Notez que le document EEGNet montre que, même avec un plus petit nombre d'essais, la formation purement supervisée de leur CNN peut surpasser leurs niveaux de référence (voir figure 3). D'après notre expérience sur un ensemble de données avec seulement 288 essais d'entraînement, les CNN purement supervisés fonctionnent bien, surpassant légèrement une ligne de base de modèles spatiaux communs de filtres traditionnels.

Oui, vous pouvez utiliser un réseau convolutionnel dans une configuration d'encodeur automatique. Il n'y a rien d'étrange avec ça. Cependant, les gens ont du mal à comprendre les couches de déconvolution .

Ici vous pouvez trouver un exemple d'auto-encodeur convolutionnel utilisant le framework Keras: https://blog.keras.io/building-autoencoders-in-keras.html