Je sais que pour les problèmes réguliers, si nous avons un meilleur estimateur régulier sans biais, ce doit être l'estimateur du maximum de vraisemblance (MLE). Mais en général, si nous avons un MLE sans biais, serait-ce aussi le meilleur estimateur sans biais (ou peut-être devrais-je l'appeler UMVUE, tant qu'il a la plus petite variance)?
22
Réponses:
À mon avis, la question n'est pas vraiment cohérente en ce sens que la maximisation d'une vraisemblance et de l'impartialité ne s'entendent pas, ne serait-ce que parce que les estimateurs du maximum de vraisemblance sont équivalents , c'est-à-dire que la transformée de l'estimateur est l'estimateur de la transformée du paramètre, tandis que l'impartialité ne se trouve pas dans les transformations non linéaires. Par conséquent, les estimateurs du maximum de vraisemblance ne sont presque jamais sans biais, si "presque" est pris en compte dans la gamme de toutes les paramétrisations possibles.
Cependant, il existe une réponse plus directe à la question: lorsque l'on considère l'estimation de la variance normale, , l'UMVUE de est tandis que le MLE de est Ergo, ils diffèrent. Ceci implique queσ2 σ2
ne tient pas en général.
Notez en outre que, même lorsqu'il existe des estimateurs sans biais d'un paramètre , il n'y a pas nécessairement un meilleur estimateur de variance minimale sans biais (UNMVUE).θ
la source
S'il existe des statistiques suffisantes et complètes, oui .
Preuve:
Ainsi, un MLE non biaisé est nécessairement le meilleur tant qu'il existe des statistiques suffisantes et complètes.
Mais en réalité, ce résultat n'a presque aucun cas d'application car il n'existe presque jamais de statistiques complètes suffisantes. C'est parce que des statistiques complètes suffisantes n'existent (essentiellement) que pour les familles exponentielles où le MLE est le plus souvent biaisé (à l'exception du paramètre de localisation des Gaussiens).
La vraie réponse est donc non .
la source
La variance asymptotique de MLE est UMVUE, c'est-à-dire qu'elle atteint la limite inférieure du cramer rao, mais la variance finie peut ne pas être UMVUE pour garantir que l'estimateur est UMVUE, elle devrait être des statistiques suffisantes et complètes ou toute fonction de ces statistiques.
la source
En bref, un estimateur est UMVUE, s'il est non biaisé et la fonction d'une statistique complète et suffisante. (Voir Rao-Blackwell et Scheffe)
la source