Quelle est la différence entre «coefficient de détermination» et «erreur quadratique moyenne»?

Pour le problème de régression, j'ai vu des gens utiliser le «coefficient de détermination» (alias R au carré) pour effectuer la sélection du modèle, par exemple pour trouver le coefficient de pénalité approprié pour la régularisation.

Cependant, il est également courant d'utiliser "l'erreur quadratique moyenne" ou "l'erreur quadratique moyenne" comme mesure de la précision de la régression.

Quelle est donc la principale différence entre ces deux? Pourraient-ils être utilisés de manière interchangeable pour les tâches de «régularisation» et de «régression»? Et quelle est la principale utilisation de chacun dans la pratique, comme dans l'apprentissage automatique, les tâches d'exploration de données?

, oùSSEest la somme des erreurs au carré (résidus ou écarts par rapport à la droite de régression) etSSTest la somme des écarts au carré de lamoyenneYde la personne à charge.$R^2=1-\frac{SSE}{SST}$$SSE$$SST$$Y$

, oùnest la taille de l'échantillon etmest le nombre de paramètres dans le modèle (y compris l'interception, le cas échéant).$MSE=\frac{SSE}{n-m}$$n$$m$

est une mesure normalisée du degré de prévisibilité, ou de l'ajustement, dans l'échantillon. M S E est l'estimation de la variance des résidus, ou non-ajustement, dans la population. Les deux mesures sont clairement liées, comme le montre la formule la plus courante pourle R 2 ajusté(l'estimation du R 2 pour la population):$R^2$$MSE$ $R^2$$R^2$

$R_{adj}^2=1-(1-R^2)\frac{n-1}{n-m}=1-\frac{SSE/(n-m)}{SST/(n-1)}=1-\frac{MSE}{\sigma_y^2}$