Je sais que l'OLS est non biaisé mais pas efficace sous hétéroscédasticité dans un cadre de régression linéaire.
Sur Wikipédia
http://en.wikipedia.org/wiki/Minimum_mean_square_error
L'estimateur MMSE est asymptotiquement non biaisé et sa distribution converge vers la distribution normale: , où I (x) est l'information Fisher de x. Ainsi, l'estimateur MMSE est asymptotiquement efficace.
MMSE serait efficace asymptotiquement. Je suis un peu confus ici.
Cela signifie-t-il que l'OLS n'est pas efficace dans un échantillon fini, mais efficace asymptotiquement sous hétéroscédasticité?
Critique des réponses actuelles: Jusqu'à présent, les réponses proposées ne traitent pas de la distribution limite.
Merci d'avance
least-squares
heteroscedasticity
efficiency
Cagdas Ozgenc
la source
la source
Réponses:
L'article n'a jamais supposé d'homoskadasticité dans la définition. Pour le mettre dans le contexte de l'article, l'homoscédasticité serait de dire Où est la matrice d'identité et est un nombre positif scalaire. L'hétéroscadasticité permet I n × n σ
Tout diaganol positif défini. L'article définit la matrice de covariance de la manière la plus générale possible, comme le deuxième moment centré d'une distribution implicite à plusieurs variables. nous devons connaître la distribution multivariée de pour obtenir une estimation asymptotiquement efficace et cohérente de . Cela proviendra d'une fonction de vraisemblance (qui est une composante obligatoire de la partie postérieure). Par exemple, supposons que (c'est-à-dire . La fonction de vraisemblance implicite est alors Où est le pdf normal multivarié.e x e ~ N ( 0 , Σ )ré e x^ e∼N(0,Σ) E{(x^−x)(x^−x)T}=Σ
La matrice d'informations du pêcheur peut être écrite comme voir en.wikipedia.org/wiki/Fisher_information pour plus. C'est d'ici que nous pouvons dériver Ce qui précède utilise une fonction de perte quadratique mais ne suppose pas homoscédasticité.
Dans le contexte de l'OLS, où nous régressons sur nous supposons La probabilité implicite est qui peut être facilement réécrit sous la forme le pdf normal univarié. L'information du pêcheur est alors x E { y | x } = x ′ β log [ L ] = log [y x
Si l'homoscédasticité n'est pas respectée, les informations de Fisher, comme indiqué, sont mal spécifiées (mais la fonction d'attente conditionnelle est toujours correcte), de sorte que les estimations de seront cohérentes mais inefficaces. Nous pourrions réécrire la probabilité de tenir compte de l'hétéroskacticité et la régression est efficace, c'est-à-dire que nous pouvons écrire Ceci est équivalent à certaines formes de moindres carrés généralisés , comme les moindres carrés pondérés. Cependant, cette volontélog [ L ] = log [ ϕ ( y - x ′ β , D ) ] β 1β
la source
Non, OLS n'est pas efficace sous hétéroscédasticité. L'efficacité d'un estimateur est obtenue si l'estimateur présente le moins de variance parmi les autres estimateurs possibles. Des déclarations sur l'efficacité dans l'OLS sont faites quelle que soit la distribution limite d'un estimateur.
la source