Qu'est-ce que l'erreur standard résiduelle?

Lors de l'exécution d'un modèle de régression multiple dans R, l'une des sorties est une erreur standard résiduelle de 0,0589 sur 95 161 degrés de liberté. Je sais que les 95 161 degrés de liberté sont exprimés par la différence entre le nombre d'observations dans mon échantillon et le nombre de variables dans mon modèle. Quelle est l'erreur standard résiduelle?

Un modèle de régression ajusté utilise les paramètres pour générer des prévisions d'estimation ponctuelles qui sont les moyennes des réponses observées si vous répétiez l'étude avec le même $X$ valeurs un nombre infini de fois (et lorsque le modèle linéaire est vrai). La différence entre ces valeurs prédites et celles utilisées pour ajuster le modèle s'appelle des "résidus" qui, lors de la réplication du processus de collecte de données, possèdent les propriétés des variables aléatoires avec une moyenne de 0.

Les résidus observés sont ensuite utilisés pour estimer ensuite la variabilité de ces valeurs et pour estimer la distribution d'échantillonnage des paramètres. Lorsque l'erreur standard résiduelle est exactement égale à 0, le modèle adapte parfaitement les données (probablement en raison d'un surajustement). S'il est impossible de démontrer que l'erreur-type résiduelle diffère de manière significative de la variabilité de la réponse inconditionnelle, il y a peu de preuves pour suggérer que le modèle linéaire ait une capacité de prédiction.

Supposons que nous ayons la table ANOVA suivante (adaptée de la example(aov)commande de R ):

          Df Sum Sq Mean Sq F value Pr(>F)
Model      1   37.0   37.00   0.483  0.525
Residuals  4  306.3   76.57               

Si vous divisez la somme des carrés de toute source de variation (modèle ou résidus) par ses degrés de liberté respectifs, vous obtenez le carré moyen. Particulièrement pour les résidus:

Donc, 76,57 est le carré moyen des résidus, c’est-à-dire la quantité de variation résiduelle (après application du modèle) de votre variable de réponse.

$\sqrt{76.57}$

$\beta_{0}$$\beta_{1}$$\epsilon$$\epsilon$

La RSE est expliquée assez clairement dans "Introduction à l’apprentissage statistique".