Sélection a priori des poids de classe SVM

Je me souviens avoir vu / lu quelque part que pour les SVM multiclasses avec des données non équilibrées, il y avait un moyen de déterminer les poids de classe à partir des données de formation (plutôt que la validation X). Quelqu'un sait-il quelle est la méthode ou de quel papier provient-elle?

Merci

machine-learning svm unbalanced-classes tomas
la source

Avez-vous trouvé une bonne solution pour svm multiclasses?

Vam

Réponses:

Pour SVM qui minimise la fonction objectif

\frac{1}{2} | | w | |^{2} + C_{1} \sum_{ξ_{i} : y_{i} = - 1}^{l} ξ_{i} + C_{2} \sum_{ξ_{i} : y_{i} = 1}^{l} ξ_{i}

$\frac{1}{2}||w||^2 + C_1 \sum_{\xi_i: y_i=-1}^{l}\xi_i + C_2 \sum_{\xi_i: y_i=1}^{l}\xi_i$ vous pouvez choisir des constantes

C_{1}

$C_1$ et

C_{2}

$C_2$ inversement proportionnelles aux tailles de classe. Autrement dit, si vous avez

l_{1}

$l_1$ échantillons d'entraînement en classe 1 et

l_{2}

$l_2$ - en classe 2, prenez

C_{1}

$C_1$ et

C_{2}

$C_2$ telle sorte que

C_{1} / C_{2}

$C_1/C_2$ =

l_{2} / l_{1}

$l_2/l_1$ . Vous devrez peut-être les ajuster légèrement plus tard dans vos expériences, mais c'est une bonne règle de base.

Si vous utilisez le package LIBSVM, vous pouvez spécifier et utilisant les drapeaux '' -w-1 '' et "-w1". $C_1$ $C_2$

PS Je viens de remarquer que vous avez posé une question sur le problème des multiclasses. Eh bien, vous trouverez peut-être cette réponse utile.

Leo
la source