Contexte
Une matrice de covariance pour un vecteur de variables aléatoires incarne une procédure pour calculer la variance de toute combinaison linéaire de ces variables aléatoires. La règle est que pour tout vecteur de coefficients , X = ( X 1 , X 2 , … , X n ) ′ λ = ( λ 1 , … , λ n )AX=(X1,X2,…,Xn)′λ=(λ1,…,λn)
Var( λ X) = λ A λ′.(1)
En d'autres termes, les règles de multiplication matricielle décrivent les règles de variances.
Deux propriétés de sont immédiates et évidentes:UNE
Parce que les variances sont des attentes de valeurs au carré, elles ne peuvent jamais être négatives. Ainsi, pour tous les vecteurs ,Les matrices de covariance doivent être non négatives-définies.0 ≤ Var ( λ X ) = λ A λ ′ .λ
0 ≤ Var( λ X) = λ A λ′.
Les variances ne sont que des nombres - ou, si vous lisez les formules matricielles littéralement, ce sont matrices. Ainsi, ils ne changent pas lorsque vous les transposez. La transposition donne Comme cela vaut pour tous les , doit être égal à sa transposition : les matrices de covariance doivent être symétriques.( 1 ) λ A λ ′ = Var ( λ X ) = Var ( λ X ) ′ = ( λ A λ ′ ) ′ = λ A ′ λ ′ . λ A A ′1 × 1( 1 )
λ A λ′= Var( λ X) = Var( λ X)′= ( λ A λ′)′= λ A′λ′.
λUNEUNE′
Le résultat le plus profond est que toute matrice symétrique non négative-définie est une matrice de covariance. UNE Cela signifie qu'il existe en fait une variable aléatoire de valeur vectorielle avec comme covariance. Nous pouvons le démontrer en construisant explicitement . Une façon consiste à remarquer que la fonction de densité (multivariée) avec la propriété a pour sa covariance. (Une certaine délicatesse est nécessaire lorsque n'est pas inversible - mais ce n'est qu'un détail technique.) A Xf( x 1 ,…, x n )log(f)∝- 1XUNEXF( x1, … , Xn)
Journal( f) ∝ - 12( x1, … , Xn) A- 1( x1, … , Xn)′
UNEUNE
Solutions
Soit et matrices de covariance. De toute évidence, ils sont carrés; et si leur somme a un sens, elles doivent avoir les mêmes dimensions. Il suffit de vérifier les deux propriétés.XOui
La somme.
Je laisse cela comme un exercice.
Celui-ci est délicat. Une méthode que j'utilise pour réfléchir à des problèmes de matrice difficiles est de faire des calculs avec matrices. Il existe des matrices de covariance courantes et familières de cette taille, telles que avec et . Le problème est que pourrait ne pas être défini: c'est-à-dire, pourrait-il produire une valeur négative lors du calcul d'une variance? Si c'est le cas, alors nous ferions mieux d'avoir des coefficients négatifs dans la matrice. Cela suggère de considérer pour . Pour obtenir quelque chose d'intéressant, nous pourrions d'abord graviter vers des matrices2 × 2
( unbbune)
une2≥ b2a ≥ 0X YX = ( a- 1- 1une)
a ≥ 1Oui avec des structures d'aspect différent. Des matrices diagonales viennent à l'esprit, telles que avec . (Remarquez comment nous pouvons librement choisir certains des coefficients, tels que et , car nous pouvons redimensionner toutes les entrées dans n'importe quelle matrice de covariance sans changer ses propriétés fondamentales. Cela simplifie la recherche d'exemples intéressants.)Y = ( b001)
b ≥ 0- 11
Je vous laisse le soin de calculer et de tester s'il s'agit toujours d'une matrice de covariance pour toutes les valeurs autorisées de et .X Yuneb