Pourquoi le produit des coefficients de régression bivariés de la ligne sur- et de la ligne sur- est égal au carré de la corrélation?

11

Il existe un modèle de régression où avec et , qui a un coefficient de corrélation de . $Y = a + bX$ $a = 1.6$ $b=0.4$ $r = 0.60302$

Si et sont alors et que l'équation devient où et , elle a également une valeur de . $X$ $Y$ $X = c + dY$ $c=0.4545$ $d=0.9091$ $r$ $0.60302$

J'espère que quelqu'un pourra expliquer pourquoi vaut également . $(d\times b)^{0.5}$ $0.60302$

correlation regression-coefficients Mike
la source

17

$b = r \; \text{SD}_y / \text{SD}_x$ et , donc . $d = r \; \text{SD}_x / \text{SD}_y$ $b\times d = r^2$

De nombreux manuels de statistiques aborderaient ce sujet; J'aime Freedman et al., Statistics . Voir aussi ici et cet article wikipedia .

Karl
la source

10

Jetez un œil à Treize façons d'examiner le coefficient de corrélation - et en particulier les méthodes 3, 4, 5 seront les plus intéressantes pour vous.

Rodgers, JL et Nicewander, WA (1988). Treize façons d'examiner le coefficient de corrélation . The American Statistician, 42, 1 , p. 59-66.

Curieuse
la source

2

Cela aurait probablement dû être un commentaire. Notez que le lien est mort. J'ai mis à jour le lien et fourni une citation complète. Pouvez-vous élaborer ou fournir des informations supplémentaires afin que cela soit toujours utile même si le lien disparaît à nouveau?

gung - Rétablir Monica

2

L'article de Rodgers & Nicewander est résumé sur notre site à l' adresse stats.stackexchange.com/q/70969/22228 .

whuber

3

$\DeclareMathOperator{\Cov}{Cov}$ $\DeclareMathOperator{\Corr}{Corr}$ $\DeclareMathOperator{\SD}{SD}$ $\DeclareMathOperator{\Var}{Var}$ $\DeclareMathOperator{\sgn}{sgn}$ $\DeclareMathOperator{\nsum}{\sum_{i=1}^{n}}$

Rappelons que de nombreux textes introductifs définissent

S_{X y} = \sum_{je = 1}^{n} (X_{je} - \bar{X}) (y_{je} - \bar{y})

$S_{xy} = \nsum (x_i - \bar x)(y_i - \bar y)$

Ensuite, en définissant comme nous avons et de la même manière . $y$ $x$ $S_{xx} = \nsum (x_i - \bar x)^2$ $S_{yy} = \nsum (y_i - \bar y)^2$

Les formules pour le coefficient de corrélation , la pente de la régression sur- (votre ) et la pente de la régression sur- (votre ) sont souvent données comme: $r$ $y$ $x$ $b$ $x$ $y$ $d$

\begin{aligned} (1) & r & = \frac{S_{X y}}{\sqrt{S_{X X} S_{y y}}} \\ (2) & {\hat{β}}_{y sur X} & = \frac{S_{X y}}{S_{X X}} \\ (3) & {\hat{β}}_{X sur y} & = \frac{S_{X y}}{S_{y y}} \end{aligned}

$\begin{align} r &= \frac{S_{xy}}{\sqrt{S_{xx}S_{yy}}} \tag{1} \\ \hat \beta_{y\text{ on }x} &= \frac{S_{xy}}{S_{xx}} \tag{2} \\ \hat \beta_{x\text{ on }y} &= \frac{S_{xy}}{S_{yy}} \tag{3} \end{align}$

La multiplication de et donne alors clairement le carré de : $(2)$ $(3)$ $(1)$

{\hat{β}}_{y sur X} \cdot {\hat{β}}_{X sur y} = \frac{S_{X y}^{2}}{S_{X X} S_{y y}} = r^{2}

$\hat \beta_{y\text{ on }x} \cdot \hat \beta_{x\text{ on }y} = \frac{S_{xy}^2}{S_{xx}S_{yy}} = r^2$

Alternativement, les numérateurs et les dénominateurs des fractions en , et sont souvent divisés par ou sorte que les choses sont formulées en termes d'échantillon ou de variances et covariances estimées. Par exemple, à partir de , le coefficient de corrélation estimé n'est que la covariance estimée, mise à l'échelle par les écarts-types estimés: $(1)$ $(2)$ $(3)$ $n$ $(n-1)$ $(1)$

\begin{aligned} (4) & r & = \hat{Corr} (X, Oui) = \frac{\hat{Cov} (X, Oui)}{\hat{Dakota du Sud (X)} \hat{Dakota du Sud (Oui)}} \\ (5) & {\hat{β}}_{y sur X} & = \frac{\hat{Cov} (X, Oui)}{\hat{Var (X)}} \\ (6) & {\hat{β}}_{X sur y} & = \frac{\hat{Cov} (X, Oui)}{\hat{Var (Oui)}} \end{aligned}

$\begin{align} r &= \widehat \Corr(X,Y) = \frac{\widehat \Cov(X,Y)}{\widehat{\SD(X)}\widehat{\SD(Y)}} \tag{4} \\ \hat \beta_{y\text{ on }x} &= \frac{\widehat \Cov(X,Y)}{\widehat{\Var(X)}} \tag{5} \\ \hat \beta_{x\text{ on }y} &= \frac{\widehat \Cov(X,Y)}{\widehat{\Var(Y)}} \tag{6} \end{align}$

$(5)$ $(6)$

{\hat{β}}_{y sur X} {\hat{β}}_{X sur y} = \frac{\hat{Cov} (X, Oui)^{2}}{\hat{Var (X)} \hat{Var (Oui)}} = {(\frac{\hat{Cov} (X, Oui)}{\hat{Dakota du Sud (X)} \hat{Dakota du Sud (Oui)}})}^{2} = r^{2}

$\hat \beta_{y\text{ on }x} \hat \beta_{x\text{ on }y} = \frac{\widehat \Cov(X,Y)^2}{\widehat{\Var(X)}\widehat{\Var(Y)}} = \left( \frac{\widehat \Cov(X,Y)}{\widehat{\SD(X)}\widehat{\SD(Y)}} \right)^2 = r^2$

$(4)$

\begin{matrix} (sept) & \hat{Cov} (X, Oui) = r \cdot \hat{Dakota du Sud (X)} \hat{Dakota du Sud (Oui)} \end{matrix}

$\widehat \Cov(X,Y) = r\cdot \widehat{\SD(X)} \widehat{\SD(Y)} \tag{7}$

$(7)$ $(5)$ $(6)$ $\hat \beta_{y\text{ on }x} = r \frac{\widehat \SD(y)}{\widehat \SD(x)}$ $\hat \beta_{x\text{ on }y} = r \frac{\widehat \SD(x)}{\widehat \SD(y)}$ $r^2$

$r = \sqrt{bd} =\sqrt{\hat \beta_{y\text{ on }x} \hat \beta_{x\text{ on }y}}$

$y$ $x$ $x$ $y$

r = sgn ({\hat{β}}_{y sur X}) \sqrt{{\hat{β}}_{y sur X} {\hat{β}}_{X sur y}}

$r = \sgn(\hat \beta_{y\text{ on }x}) \sqrt{\hat \beta_{y\text{ on }x} \hat \beta_{x\text{ on }y}}$

$\sgn$ $+1$ $-1$

Silverfish
la source

1

Vous pourriez trouver cette réponse intéressante même si elle ne répond pas explicitement à la question posée ici.

Dilip Sarwate

Pourquoi le produit des coefficients de régression bivariés de la ligne sur- et de la ligne sur- est égal au carré de la corrélation?

Réponses: