Les méthodes d'apprentissage à noyaux multiples visent à construire un modèle de noyau où le noyau est une combinaison linéaire de noyaux à base fixe. L'apprentissage du noyau consiste alors à apprendre les coefficients de pondération pour chaque noyau de base, plutôt que d'optimiser les paramètres du noyau d'un seul noyau.
Les inconvénients de l'apprentissage multi-noyaux semblent être qu'ils sont moins interprétables et moins coûteux en calcul (pour évaluer la sortie du modèle, vous devez évaluer tous les noyaux de base). Donc, si des performances similaires peuvent être obtenues en optimisant simplement un seul noyau, quels sont les avantages de MKL?
machine-learning
svm
kernel-trick
Dikran Marsupial
la source
la source
Réponses:
Il y a deux avantages (ou plutôt deux cas d'utilisation):
Pour chaque application de SVM, un utilisateur doit choisir le noyau à utiliser et parfois même concevoir ses propres matrices de noyau. Est-il possible d'alléger le choix des noyaux ou des conceptions de noyau spécialisées? MKL était un pas dans cette direction.
Le deuxième cas à mon humble avis est de loin un cas plus convaincant. Considérez que votre entrée de données est une donnée vidéo + cc. La représentation des fonctionnalités de chaque vidéo se compose de fonctionnalités vidéo, de fonctionnalités audio et de fonctionnalités de texte. Ces données sont appelées données multimodales. Chaque ensemble de ces fonctionnalités peut nécessiter une notion différente de similitude (un noyau différent). Au lieu de construire un noyau spécialisé pour de telles applications, est-il possible de simplement définir le noyau pour chacun de ces modes et de les combiner linéairement?
la source