Pourquoi les gens optimisent souvent le déterminant de

8

Disons que j'ai un vecteur aléatoireYN(Xβ,Σ) etΣσ2I. Autrement dit, les éléments deY (donné Xβ) sont corrélés.

L'estimateur naturel de β est (XΣ1X)1XΣ1Y, et var(β^)=(XΣ1X)1

Dans un contexte de conception, l'expérimentateur peut jouer avec la conception, ce qui entraînera différentes X et Σ donc différent var(β^). Pour choisir une conception optimale, je vois que les gens essaient souvent de minimiser le déterminant de(XΣ1X)1, quelle est l'intuition derrière cela?

Pourquoi ne pas, disons, minimiser la somme de ses éléments?

qoheleth
la source

Réponses:

12

En tant que critère de conception, pour minimiser le déterminant de (XΣ1X)1, ce qui revient à maximiser le déterminant de (XΣ1X), est connu sous le nom de plan expérimental D-optimal. Le déterminant d'une matrice de covariance est connu comme la variance généralisée, nous minimisons donc la variance généralisée. D'autres fonctionnelles de la matrice de covariance pourraient être utilisées comme critère, mais ce que vous proposez (minimiser la somme de ses éléments) n'a pas beaucoup de sens. Le critère d'optimalité D a le gros avantage pratique d'être invariant sous les transformations linéaires des variables du régresseur, ce qui est un gros avantage pratique. L'invariance signifie que l'optimalité n'est pas influencée par des éléments tels que le choix des unités de mesure (comme m ou km ). Avec des critères d'optimalité non invariants, le résultat pourrait dépendre de choses non pertinentes telles que le choix des unités de mesure.

Si vous recherchez "D-optimal" sur ce site, vous trouverez d'autres articles pertinents!

kjetil b halvorsen
la source
Bonne réponse. Peut-être qu'une chose à ajouter serait le critère d'optimalité A, qui est la trace de la matrice var-cov, donc ici nous minimisons la somme des variances. Cela va un peu dans le sens de ce que le PO demandait.
Wolfgang
Wolfgang: Oui, mais la trace (A)) - le critère d'optimalité n'est toujours pas invariant! Mais il peut être utilisé, avec précaution ...
kjetil b halvorsen
Bon, bon point.
Wolfgang
1
Pour autant que je sache, cette réponse ne fournit qu'une seule motivation pour la conception D-optimale: qu'elle est invariante sous les transformations linéaires. Bien que ce soit une fonctionnalité intéressante , cela ne semble pas vraiment motiver pourquoi on devrait utiliser D-optimal; de nombreuses autres métriques sont également invariantes sous les transformations linéaires et sont liées à de vraies questions d'intérêt, telles que la minimisation de la variance d'un estimateur d'un contraste d'intérêt fixe. Je me suis souvent demandé pourquoi les gens utilisent D-optimal et n'ont pas pu trouver une bonne raison!
Cliff AB
@Cliff AB: je vais essayer d'augmenter la réponse
kjetil b halvorsen