Hesse de vraisemblance de profil utilisée pour l'estimation d'erreur standard

13

Cette question est motivée par celle-ci . J'ai recherché deux sources et c'est ce que j'ai trouvé.

A. van der Vaart, Statistiques asymptotiques:

Il est rarement possible de calculer explicitement une vraisemblance de profil, mais son évaluation numérique est souvent réalisable. Ensuite, la vraisemblance du profil peut servir à réduire la dimension de la fonction de vraisemblance. Les fonctions de vraisemblance de profil sont souvent utilisées de la même manière que les fonctions de vraisemblance (ordinaires) des modèles paramétriques. En dehors de prendre leurs points de maximale estimateurs & thetav , la dérivée seconde à θ est utilisée comme une estimation du moins l'inverse de la matrice de covariance asymptotique de e. Des recherches récentes semblent valider cette pratique.θ^θ^

J. Wooldridge, Analyse économétrique des données des sections et des panels (les mêmes dans les deux éditions):

g(W,β)W

Wooldridge discute du problème dans un contexte plus large des estimateurs M, il s'applique donc également aux estimateurs du maximum de vraisemblance.

Nous obtenons donc deux réponses différentes pour la même question. Le diable à mon avis est dans les détails. Pour certains modèles, nous pouvons utiliser la toile de jute de vraisemblance de profil en toute sécurité pour certains modèles non. Y a-t-il des résultats généraux qui donnent des conditions quand pouvons-nous le faire (ou pas)?

estimation maximum-likelihood likelihood asymptotics profile-likelihood mpiktas
la source
Ces passages ne semblent pas du tout aborder la même question: le premier concerne le calcul numérique pour un ensemble de données donné tandis que le second concerne «l'étude des propriétés asymptotiques». L'utilisation de la toile de jute est généralement une considération purement mathématique avec des réponses généralement simples: voir notre discussion connexe .
whuber
van der Vaart dit que Hessian est utilisé pour le calcul de la matrice de covariance asymptotique . Étant donné que Wooldridge parle que la fonction objective concentrée ne peut pas être utilisée pour l'étude des propriétés asymptotiques, cela implique que sa toile de jute (numérique) ne peut pas être utilisée pour estimer les erreurs standard. Je n'ai pas oublié notre discussion, je prends donc ce passage avec le grain de sel. Cependant ni van der Vaart ni Wooldridge n'ont donné de références. Avant de faire des recherches approfondies, je voulais juste vérifier que c'est peut-être quelque chose de bien connu.
mpiktas
Excellent point: d'une manière ou d'une autre, j'ai négligé "l'asymptotique" dans la citation de van der Vaart. Il n'y a peut-être toujours pas de contradiction, cependant: Wooldridge dit simplement que la justification simple évidente (iid summands) n'est pas disponible pour démontrer que l'approche de van der Vaart fonctionne; Wooldridge ne dit pas que cela ne fonctionne pas ;-).
whuber
@whuber, oui mais il ne dit pas non plus que ça marche :) Je suis conscient qu'il n'y a peut-être pas de contradiction, je veux seulement savoir s'il y a des résultats précis.
mpiktas
2
Voir On Profile Likelihood (SA Murphy et AW van der Vaart), jstor.org/pss/2669386
whuber

Réponses:

1

Pour certains modèles, nous pouvons utiliser la toile de jute de vraisemblance de profil en toute sécurité pour certains modèles non

Malheureusement, cela est vrai pour l'instant et peu susceptible de changer.

La discussion la plus claire que je connaisse est Les règles de l'inférence conditionnelle: Existe-t-il une définition universelle de la nonformation? B Jørgensen - Méthodes statistiques et applications, 1994.

Et pour certains des problèmes spécifiques à la résolution des échecs de ressemblance de profils Stafford, JE (1996). Un ajustement robuste de la vraisemblance du profil, Annals of Statistics, 24, 336-52.

phaneron
la source
1

Une réponse rapide: Ceci est discuté dans le chapitre trois de OE Barndorff-Nielsen & DR Cox: Inférence et asymptotique, Chapman & Hall, page 90, équation 3.31, qu'ils attribuent à Patefield. Ils concluent que pour un paramètre scalaire, cela est valide (ils n'analysent pas d'autres cas).

kjetil b halvorsen
la source