Pourquoi signaler R au carré?

Si le R ajusté au carré est supérieur au R au carré, pourquoi le logiciel statistique continue-t-il de signaler ce dernier? Existe-t-il une sorte de situation où un chercheur peut préférer utiliser R au carré au lieu de R ajusté au carré?

regression Mike Senin
la source

À quel type de régression faites-vous face? Si je ne me trompe pas, pour la régression linéaire, il n'y a pas de différence entre le R au carré et le R au carré ajusté. Dans ce cas, il est donc très approprié d'utiliser la valeur R au carré simple.

alesc

Un linéaire. Mais les progiciels statistiques fournissent les deux mesures. Voilà pourquoi je me demande pourquoi.

Mike Senin

Eh bien, selon Wiki , l'équation est un peu différente même pour la régression linéaire ( p=1). Mais tout l'intérêt du R au carré ajusté est « L'utilisation d'un R2 ajusté est une tentative de prendre en compte le phénomène du R2 automatiquement et augmentant faussement lorsque des variables explicatives supplémentaires sont ajoutées au modèle ». La régression linéaire n'a pas de variable explicative supplémentaire, car il s'agit du type de régression le plus primitif.

alesc

@alesc, je le sais. Ce que je ne sais pas, c'est pourquoi signaler les deux valeurs.

Mike Senin

Qu'essayez-vous de prouver avec votre valeur R au carré? Comparez-vous différents modèles de régression? Si vous comparez des modèles de régression linéaire et non linéaire, il serait alors judicieux d'utiliser le carré R ajusté, sinon le carré R simple sera suffisant. Mais là encore, vous pouvez également utiliser le R ajusté au carré, même pour la régression linéaire :) Personnellement, je ne rapporterais pas les deux valeurs. Choisissez donc une métrique et ne rapportez que cette valeur (carré R ou carré R ajusté).

alesc

Réponses:

Dans des conditions par exemple expliquées ici , $R^2$ mesure la proportion de la variance dans la variable dépendante expliquée par la régression, qui est une mesure naturelle. Ajusté $R^2$ n'a pas cette interprétation, car elle modifie la $R^2$ valeur.

Donc, tout en étant ajusté $R^2$ a l'avantage incontestable de ne pas augmenter automatiquement lorsque le nombre de régresseurs augmente, vous payez un prix en termes d'interprétation de la mesure.

Remarque Je ne préconise pas l'utilisation de l'un ou de l'autre, je donne simplement une raison possible pour laquelle les gens utilisent toujours la norme $R^2$ .

Christoph Hanck
la source

Question rapide: est-il peut-être vrai que

R_{a d j .}^{2}

$R^2_{adj.}$ est un estimateur cohérent de la population

R^{2}

$R^2$ sous certaines conditions, par exemple un modèle bien spécifié? Il serait alors logique de signaler

R_{a d j .}^{2}

$R^2_{adj.}$ au lieu de

R^{2}

$R^2$ .

Richard Hardy

Oui, mais comme nous pouvons l'écrire

R_{a d j .}^{2} = 1 - \frac{n - 1}{n - K} + \frac{n - 1}{n - K} R^{2}

$R_{adj.}^2=1-\frac{n-1}{n-K}+\frac{n-1}{n-K}R^2$ et, évidemment,

\frac{n - 1}{n - K} \to 1

$\frac{n-1}{n-K}\to1$ (au moins lorsque, comme on le suppose généralement,

K

$K$ reste fixe comme

n \to \infty

$n\to\infty$ ), nous avons cela

R_{a d j .}^{2} - R^{2} = o_{p} (1)

$R_{adj.}^2-R^2=o_p(1)$ , ce qui ne semble pas être une raison pour préférer l'un à l'autre.

Christoph Hanck

K

$K$ est bien sûr le nombre de régresseurs

Christoph Hanck

Eh bien ... définissons-nous la population

R^{2}

$R^2$ comme

1 - σ^{2} / V a r (y)

$1-\sigma^2/Var(y)$ ? Si oui, par écrit

R_{a d j .}^{2} = 1 - \frac{s^{2}}{\sum_{i} (y - \bar{y})^{2} / (n - 1)}

$R^2_{adj.}=1-\frac{s^2}{\sum_i(y-\bar{y})^2/(n-1)}$ (

s^{2}

$s^2$ l'estimation de la variance ajustée par df divisant par

n - K

$n-K$ ) montre que l'estimateur de la variance d'erreur au numérateur et celui de la variance de

y

$y$ dans le dénominateur sont sans biais pour les paramètres de population respectifs,

E (s^{2}) = σ^{2}

$E(s^2)=\sigma^2$ et

E [\sum_{i} (y - \bar{y})^{2} / (n - 1)] = V a r (y)

$E[\sum_i(y-\bar{y})^2/(n-1)]=Var(y)$ . Mais cela ne fait pas du ratio un estimateur non biaisé des ratios des paramètres, car l'opérateur d'espérance ne passe pas par les fonctions non linéaires en général.

Christoph Hanck

Merci. J'aurais peut-être dû poster mes commentaires sous forme de question distincte, alors j'aurais pu voter pour vos réponses. Comme je soupçonnais que des choses similaires avaient été posées, j'espérais juste une courte confirmation / annulation, un style de commentaire. Tu étais plus explicite que ça, j'apprécie!

Richard Hardy

Le R ajusté au carré est utile pour comparer différents modèles de régression. Cette tâche ne peut pas être accomplie par le R au carré qui, comme d'autres l'ont déjà dit, a un autre objectif informatif, qui est d'exprimer la proportion de variance de la variable dépendante qui est expliquée par le modèle de régression étudié.

Carlo Lazzaro
la source