Quelqu'un peut-il me dire la différence entre les noyaux dans SVM:
- Linéaire
- Polynôme
- Gaussien (RBF)
- Sigmoïde
Parce que, comme nous le savons, le noyau est utilisé pour mapper notre espace d'entrée dans un espace de fonctionnalité de haute dimensionnalité. Et dans cet espace caractéristique, nous trouvons la frontière séparable linéairement ..
Quand sont-ils utilisés (dans quelles conditions) et pourquoi?
la source
S'appuyer sur les connaissances de base du lecteur sur les noyaux.
Noyau linéaire:K(X,Y)=XTY
Noyau polynomial:K(X,Y)=(γ⋅XTY+r)d,γ>0
Fonction de base radiale (RBF) Noyau: qui, sous une forme simple, peut s'écrireK(X,Y)=exp(∥X−Y∥2/2σ2) exp(−γ⋅∥X−Y∥2),γ>0
Noyau sigmoïde: qui est similaire à la fonction sigmoïde en régression logistique.K(X,Y)=tanh(γ⋅XTY+r)
Ici, , et sont des paramètres du noyau.r d γ
la source
On peut répondre à cette question d'un point de vue théorique et pratique. De la théorie selon le théorème No-Free Lunch, il n'y a aucune garantie qu'un noyau fonctionne mieux que l'autre. C'est a priori que vous ne savez jamais et vous ne pouvez pas savoir quel noyau fonctionnera mieux.
D'un point de vue pratique, consultez la page suivante:
Comment sélectionner le noyau pour SVM?
la source
Tout en réfléchissant à ce à quoi un noyau est "bon" ou quand il doit être utilisé, il n'y a pas de règles strictes et rapides.
Si votre classificateur / régresseur fonctionne bien avec un noyau donné, il est approprié, sinon, envisagez de passer à un autre.
Un aperçu des performances de votre noyau, en particulier s'il s'agit d'un modèle de classification, peut être obtenu en examinant certains exemples de visualisation, par exemple https://gist.github.com/WittmannF/60680723ed8dd0cb993051a7448f7805
la source