Comment générer des nombres aléatoires corrélés (étant donné les moyennes, les variances et le degré de corrélation)?

Je suis désolé si cela semble un peu trop fondamental, mais je suppose que je cherche simplement à confirmer que nous comprenons. J'ai l'impression que je devrais le faire en deux étapes et j'ai commencé à essayer de grogner des matrices de corrélation, mais cela commence à peine à sembler vraiment impliqué. Je cherche une explication concise (idéalement avec des suggestions pour une solution de pseudocode) d'un bon moyen, idéalement rapide, de générer des nombres aléatoires corrélés.

Étant donné deux variables pseudo-aléatoires taille et poids avec des moyennes et des variances connues et une corrélation donnée, je pense que j'essaie essentiellement de comprendre à quoi cette deuxième étape devrait ressembler:

   height = gaussianPdf(height.mean, height.variance)
   weight = gaussianPdf(correlated_mean(height.mean, correlation_coefficient), 
                        correlated_variance(height.variance, 
                        correlation_coefficient))

• Comment calculer la moyenne et la variance corrélées? Mais je tiens à confirmer que c'est vraiment le problème pertinent ici.
• Dois-je recourir à la manipulation matricielle? Ou ai-je quelque chose de très faux dans mon approche de base de ce problème?

Pour répondre à votre question sur "un bon moyen, idéalement rapide, de générer des nombres aléatoires corrélés": Soit une matrice de variance-covariance souhaitée , définie par définition positive, sa décomposition de Cholesky est la suivante: = ; étant la matrice triangulaire inférieure.C L L T$C$$C$$LL^T$$L$

Si vous utilisez maintenant cette matrice pour projeter un vecteur de variable aléatoire non corrélé , la projection résultante sera celle de variables aléatoires corrélées.X Y = L $L$$X$$Y = LX$

Vous pouvez trouver une explication concise pourquoi cela se produit ici .

+1 à @ user11852 et @ jem77bfp, ce sont de bonnes réponses. Permettez-moi d’aborder la question sous un angle différent, non pas parce que je pense que c’est nécessairement meilleur dans la pratique , mais parce que je pense que c’est instructif. Voici quelques faits pertinents que nous connaissons déjà:

1. est la pente de la droite de régression lorsque X et Y sont tous deuxnormalisés, c'est-à-dire N ( 0 , 1 ) , $r$$X$$Y$$\mathcal N(0,1)$

2. est la proportion de la variance dans Y attribuable à la variance dans X , $r^2$$Y$$X$

   
   
   (aussi, à partir des règles pour les écarts ):

3. la variance d'une variable aléatoire multipliée par une constante est la constante carré multipliée par la variance initiale:
   $$\text{Var}[aX]=a^2\text{Var}[X]$$
4. variances add , c’est-à-dire que la variance de la somme de deux variables aléatoires (en supposant qu’elles soient indépendantes) est la somme des deux variances:
   $$\text{Var}[X+\varepsilon]=\text{Var}[X]+\text{Var}[\varepsilon]$$

Nous pouvons maintenant combiner ces quatre faits pour créer deux variables normales standard dont les populations auront une corrélation donnée, (plus exactement, ρ ), bien que les échantillons que vous générez auront des corrélations d’échantillon variables. L’idée est de créer une variable pseudo-aléatoire, X , qui est normale normale, N ( 0 , 1 ) , puis de trouver un coefficient, a , et une variance d’erreur, v e , tels que Y ∼ N ( 0 , a 2 + v e ) , où $r$$\rho$$X$$\mathcal N(0,1)$$a$$v_e$$Y \sim\mathcal N(0,a^2+v_e)$ . (Notez que | a | doit être ≤ 1 pour que cela fonctionne et que, en outre, a = r .) Ainsi, vous commencez avec le r que vous voulez; c'est votre coefficient, a . Ensuite, vous déterminez la variance d'erreur dont vous aurez besoin, il s'agit de 1 - r 2 . (Si votre logiciel nécessite l'utilisation de l'écart type, prenez la racine carrée de cette valeur.) Enfin, pour chaque variable pseudo-aléatoireque vous avez générée, x i , générez une variable d'erreur pseudo-aléatoire, e $a^2+v_e=1$$|a|$ $\le 1$$a=r$$r$$a$$1-r^2$$x_i$$e_i$, avec la variance d'erreur appropriée , et calculez la variable pseudo-aléatoire corrélée, y i , en multipliant et en ajoutant. $v_e$$y_i$

Si vous voulez faire cela dans R, le code suivant peut fonctionner pour vous:

correlatedValue = function(x, r){
  r2 = r**2
  ve = 1-r2
  SD = sqrt(ve)
  e  = rnorm(length(x), mean=0, sd=SD)
  y  = r*x + e
  return(y)
}

set.seed(5)
x = rnorm(10000)
y = correlatedValue(x=x, r=.5)

cor(x,y)
[1] 0.4945964

(Edit: j'ai oublié de mentionner :) Comme je l'ai décrit, cette procédure vous donne deux variables corrélées normales standard. Si vous ne voulez pas standards Normales, mais que vous voulez les variables d'avoir des moyens de spécifiques (non 0) et (pas 1 SDs), vous pouvez les transformer sans affecter la corrélation. Ainsi, vous soustrairez la moyenne observée pour vous assurer que la moyenne est exactement égale à , multipliez la variable par le SD que vous voulez et ajoutez ensuite la moyenne de votre choix. Si vous souhaitez que la moyenne observée fluctue normalement autour de la moyenne souhaitée, vous devez rajouter la différence initiale. Il s’agit essentiellement d’une transformation z-score inversée. Puisqu'il s'agit d'une transformation linéaire, la variable transformée aura la même corrélation avec l'autre variable qu'avant. $0$

Encore une fois, ceci, dans sa forme la plus simple, ne vous permet que de générer une paire de variables corrélées (cela peut être étendu, mais devient très vite), et ce n’est certainement pas le moyen le plus pratique d’accomplir votre travail. Dans R, vous voudriez utiliser ? Mvrnorm dans le package MASS , à la fois parce que c'est plus facile et parce que vous pouvez générer de nombreuses variables avec une matrice de corrélation de population donnée. Néanmoins, je pense que cela vaut la peine d'avoir parcouru ce processus pour voir comment certains principes de base s'appliquent de manière simple.

En général, ce n’est pas une chose simple à faire, mais je pense qu’il existe des packages pour la génération de variables normales multivariées (au moins dans R, voir mvrnorml’ MASSemballage), dans lesquels vous entrez simplement une matrice de covariance et un vecteur moyen.

$(X_1,X_2)$$F(x_1,x_2)$$F$$x_2$

$F(x_1,x_2)$$x_1=\hat{x}_1$

$\xi_2$$[0,1]$$\xi_1$$F(x_2 | X_1=\hat{x}_1)$$\hat{x}_2=(F(x_2 | X_1=\hat{x}_1))^{-1}(\xi)$$\hat x_2$$F(\hat x_2 | X_1=\hat{x}_1) = \xi$

Si vous ne comprenez pas le sens de l'insertion d'une variable uniforme dans une fonction de distribution de probabilité inverse, essayez de faire un croquis du cas univarié, puis souvenez-vous de l'interprétation géométrique de la fonction inverse.

Si vous êtes prêt à abandonner votre efficacité, vous pouvez utiliser un alogorithme à jeter. Son avantage est qu'il permet tout type de distribution (pas seulement gaussienne).

$\{x_i\}_{i=1}^N$$\{y_i\}_{i=1}^N$$C$

$c_{old}=corr(\{x_i\},\{y_i\})$

$n_1$$n_2: 1 \leq n_{1,2} \leq N$

$x_{n_1}$$x_{n_2}$

$c_{new}=corr( \{x_i\},\{y_i\})$

$|C-c_{new}| < |C-c_{old}|$

$|C-c| < \epsilon$

${x_i}$

Bonne chance!