Test de permutation aléatoire pour la sélection des fonctionnalités

9

Je suis confus au sujet de l'analyse de permutation pour la sélection d'entités dans un contexte de régression logistique.
Pourriez-vous fournir une explication claire du test de permutation aléatoire et comment s'applique-t-il à la sélection des fonctionnalités? Peut-être avec un algorithme et des exemples exacts.

Enfin, comment se compare-t-il aux autres méthodes de retrait comme le Lasso ou le LAR?

regression logistic feature-selection permutation-test shrinkage Ugo
la source
5
Voulez-vous dire quelque chose comme, par exemple, où les entrées d'une seule colonne de la matrice de conception sont permutées, en maintenant la réponse et d'autres covariables fixes? Si vous avez une référence particulière que vous utilisez, il peut être utile de la répertorier.
Cardinal
Je pense que ce lien citeseerx.ist.psu.edu/viewdoc/… fait référence à la bonne technique. J'essaie actuellement de reprendre contact avec le conférencier qui m'a parlé de cette méthode ...
Ugo
N'a pas réussi à reprendre contact avec lui (Donald Geman)
Ugo
2
il y a des points flous dans votre question que vous voudrez peut-être clarifier. Dans l'article lié, il y a une description assez claire de l'algorithme. Voulez-vous demander quelque chose de spécifique à propos de cet algorithme? Est-ce l'idée de faire la sélection des fonctionnalités en calculant des valeurs de marginales que vous voulez une explication? De plus, vous devriez remettre en question la définition 2 du document. Il s'agit d'une affirmation non étayée, qui peut être une hypothèse de travail, mais de petites valeurs p marginales n'impliquent généralement pas la pertinence. LAR fait d'ailleurs une régression linéaire et n'est pas vraiment pour les réponses binaires. pp
NRH

Réponses:

10

(Je n'ai pas beaucoup de temps maintenant, je vais donc répondre brièvement, puis développer plus tard)

mnθmnθppmn

θpθ

Ce processus est répété sur toutes les fonctionnalités, puis le sous-ensemble de fonctionnalités utilisé pour la classification peut être sélectionné de deux manières:

  • N
  • <ϵ
benhamner
la source