Quand la probabilité maximale et la méthode des moments produisent-elles les mêmes estimateurs?

17

On m'a posé cette question l'autre jour et je ne l'avais jamais envisagée auparavant.

Mon intuition vient des avantages de chaque estimateur. La probabilité maximale est de préférence lorsque nous sommes confiants dans le processus de génération de données car, contrairement à la méthode des moments, elle utilise la connaissance de la distribution entière. Étant donné que les estimateurs MoM n'utilisent que les informations contenues dans les moments, il semble que les deux méthodes devraient produire les mêmes estimations lorsque les statistiques suffisantes pour le paramètre que nous tentons d'estimer sont exactement les moments des données.

(0,θ)θmax(X1,,XN)

Je pensais que c'était peut-être une bizarrerie de la famille exponentielle, mais pour un Laplace avec une moyenne connue, la statistique suffisante estet l'estimateur MLE et MoM pour la variance ne sont pas égaux.1n|Xje|

Jusqu'à présent, je n'ai pas pu montrer de résultat en général. Quelqu'un connaît-il les conditions générales? Ou même un contre-exemple m'aiderait à affiner mon intuition.

À l'envers
la source
4
MM et MLE coïncident pour le paramètre canonique dans les familles exponentielles. Mais faire une transformation signifierait généralement que vous perdez cette équivalence (comme le suggère également la réponse de Xi'an).
hejseb

Réponses:

16

Une réponse générale est qu'un estimateur basé sur une méthode des moments n'est pas invariant par un changement bijectif de paramétrage, tandis qu'un estimateur du maximum de vraisemblance est invariant. Par conséquent, ils ne coïncident presque jamais. (Presque jamais dans toutes les transformations possibles.)

F^F , bien que cela ne se rapporte pas à la question.

En fait, une façon plus appropriée de formuler la question serait de demander quand un estimateur de moment est suffisant, mais cela oblige la distribution des données à provenir d'une famille exponentielle, par le lemme de Pitman-Koopman, un cas où la réponse est déjà connu.

Remarque: Dans la distribution de Laplace, lorsque la moyenne est connue, le problème équivaut à observer les valeurs absolues, qui sont alors des variables exponentielles et faisant partie d'une famille exponentielle.

Xi'an
la source
1
Existe-t-il en général une paramétrisation pour laquelle MM et MLE sont égaux?
Upside
1
Pour les familles exponentielles, le paramétrage moyen conduit à une égalité. En dehors des familles exponentielles, je n'en suis pas si sûr.
Xi'an