Pouvoir explicatif d'une variable

8

J'ai un modèle de régression linéaire simple. Ce que je veux calculer, c'est à quel point chacune de mes variables d'entrée est "importante", c'est-à-dire faire une déclaration quelque chose comme ceci:

"60% de la puissance prédictive dans ce modèle provient de la variable var1, où var2 et var3 ont respectivement 30% et 10%"

Que dois-je faire pour calculer ces pourcentages?

regression importance user333
la source
3
Qu'entendez-vous précisément par «pouvoir prédictif»? Par exemple, var3 peut avoir une corrélation extrêmement élevée avec la variable dépendante dans un échantillon, mais vous devrez peut-être faire des prédictions où var3 s'écarte sensiblement des valeurs qu'il a atteintes dans l'échantillon, introduisant ainsi une énorme incertitude de prédiction. OTOH, var1 et var2 peuvent avoir individuellement de faibles corrélations avec le DV, mais ensemble pourraient bien fonctionner pour les prédictions prévues. Cela indique que la mesure du "pouvoir prédictif" nécessite un contexte de prédiction spécifique en plus du modèle.
whuber

Réponses:

10

Le package relaimpo R fait exactement ce que vous voulez faire, et il fournit également des CI d'amorçage lors de l'évaluation de la contribution relative du prédicteur individuel à l'ensembleR2.

Un exemple d'utilisation peut être trouvé à la fin de ce didacticiel: Prise en main d'une approche moderne de la régression .

chl
la source
+1 pour une réponse facile pour rater la question formulée. Vous devez ajouter que cela ne fonctionne que si le nombre de prédicteurs est inférieur, disons, à 50.
user603
@chl Les résultats (= ordre d'importance des régresseurs) de RelaImpo varient considérablement par rapport aux résultats des valeurs bêta non normalisées. Je me demande pourquoi: tous mes 14 régresseurs ont la même métrique (plage de 0 à 3), et bien que les moyennes et les écarts-types varient considérablement selon les symptômes, les poids bêta non normalisés devraient donner des résultats approximativement similaires à RelaImpo, ou non? Je vous remercie.
Torvon