Dans An Introduction to Statistical Learning (James et al.), À la section 3.7, exercice 5, il est indiqué que la formuleen supposant une régression linéaire sans interception est
où et sont les estimations habituelles sous OLS pour une régression linéaire simple ().
Ce n'est pas l'exercice proprement dit ; Je me demande simplement comment dériver l'équation. Sans utiliser l'algèbre matricielle , comment puis-je la dériver?
Ma tentative: avec , on a .
Après une algèbre, on peut montrer que et . De là, je suis coincé.
self-study
least-squares
Clarinettiste
la source
la source
Réponses:
Ceci est simple à partir de la définition des moindres carrés ordinaires. S'il n'y a pas d'interception, on minimise . C'est lisse en fonction de , donc tous les minima (ou maxima) se produisent lorsque la dérivée est nulle. En différenciant par rapport à nous obtenons . La résolution de donne la formule.R(β)=∑i=ni=1(yi−βxi)2 β β −∑i=ni=12(yi−βxi)xi β
la source