Plage possible de

Supposons qu'il existe trois séries chronologiques, , et$X_1$$X_2$$Y$

Exécution de régression linéaire ordinaire sur ~ ( ), nous obtenons . La régression linéaire ordinaire ~ obtenir . Supposons que$Y$$X_1$$Y = b X_1 + b_0 + \epsilon$$R^2 = U$$Y$$X_2$$R^2 = V$$U < V$

Quelles sont les valeurs minimales et maximales possibles de lors de la régression ~ ( )?$R^2$$Y$$X_1 + X_2$$Y = b_1 X_1 + b_2 X_2 + b_0 + \epsilon$

Je crois que le minimum devrait être + une petite valeur, car l'ajout de nouvelles variables augmente toujours , mais je ne sais pas comment quantifier cette petite valeur, et je ne sais pas comment obtenir la plage maximale .$R^2$$V$$R^2$

1) EDIT: Commentaire du cardinal ci - dessous montre que la bonne réponse à la min question est . Par conséquent, je supprime ma réponse "intéressante", mais finalement incorrecte, à cette partie du message du PO.$R^2$$V$

2) Le maximum est 1. Considérons l'exemple suivant, qui correspond à votre cas.$R^2$

x1 <- rnorm(100)
x2 <- rnorm(100)
y <- x1 + 2*x2

> summary(lm(y~x1))$r.squared
[1] 0.2378023                 # This is U
> summary(lm(y~x2))$r.squared
[1] 0.7917808                 # This is V; U < V
> summary(lm(y~x1+x2))$r.squared
[1] 1

Ici, nous fixons la variance de à 0. Cependant, si vous voulez , les choses changent un peu. Vous pouvez obtenir le arbitrairement proche de 1 en plus en plus , mais, comme avec le problème minimum, vous ne pouvez pas y arriver, il n'y a donc pas de maximum. 1 devient le supremum , car il est toujours supérieur à mais c'est aussi la limite comme .$\epsilon$$\sigma^2_\epsilon > 0$$R^2$$\sigma^2_\epsilon$$R^2$$\sigma^2_\epsilon \to 0$

Soit égale à la corrélation entre X 1 et X 2 , R 1 , Y est égal à la corrélation entre X 1 et Y , et R 2 , Y la corrélation entre X 2 et Y . Puis R 2 pour le modèle complet divisé par V est égal$r_{1,2}$$X_1$$X_2$$r_{1,Y}$$X_1$$Y$$r_{2,Y}$$X_2$$Y$$R^2$$V$

Donc, pour le modèle complet est égal à V uniquement si r 1 , 2 = 0 et r 2 1 , Y = U = 0 ou$R^2$$V$$r_{1,2} = 0$$r_{1,Y}^2 = U = 0$

Si , R 2 pour le modèle complet est égale à U + V .$r_{1,2} = 0$$R^2$$U + V$

Sans contraintes sur et V , le minimum est V , puis le maximum est le plus petit min ( V + U , 1 ) . En effet , deux variables peut être parfaitement corrélé (dans ce cas , l' ajout de la deuxième variable ne change pas le R 2 du tout) ou ils pourraient être orthogonales dans ce cas , y compris les résultats en U + V . Il a été souligné à juste titre dans les commentaires que cela nécessite également que chacun soit orthogonal à 1 , le vecteur colonne de 1s.$U$$V$$V$$\min(V + U, 1)$$R^2$$U + V$$\mathbf{1}$

Vous avez ajouté la contrainte . Cependant, il est toujours possible que U = 0 . Autrement dit, X 1 ⊥ Y , auquel cas min = max = V + 0 . Enfin, il est possible que X 1 ⊥ X 2 donc la borne supérieure soit encore min ( V + U , 1 ) .$U < V \implies X_{1} \neq X_{2}$$U = 0$$X_{1} \perp Y$$\min = \max = V + 0$$X_{1} \perp X_{2}$$\min(V + U, 1)$

Si vous en saviez plus sur la relation entre et X 2 , je pense que vous pourriez en dire plus.$X_{1}$$X_{2}$