Test de rapport de vraisemblance généralisé pour les modèles non imbriqués

Je comprends que si j'ai deux modèles A et B et A est imbriqué dans B, alors, compte tenu de certaines données, je peux ajuster les paramètres de A et B à l'aide de MLE et appliquer le test de rapport de vraisemblance logarithmique généralisé. En particulier, la distribution du test devrait être avec degrés de liberté où est la différence dans le nombre de paramètres que et ont. $\chi^2$ $n$ $n$ $A$ $B$

Cependant, que se passe-t-il si $A$ et $B$ ont le même nombre de paramètres mais que les modèles ne sont pas imbriqués? Ce sont simplement des modèles différents. Existe-t-il un moyen d'appliquer un test de rapport de vraisemblance ou peut-on faire autre chose?

maximum-likelihood model-selection likelihood-ratio Lembik
la source

Réponses:

L'article Vuong, QH (1989). Tests de rapport de vraisemblance pour la sélection des modèles et les hypothèses non imbriquées. Econometrica, 307-333. a le traitement théorique complet et les procédures de test. Il distingue trois situations, «Modèles strictement non imbriqués», «Modèles se chevauchant», «Modèles imbriqués», et examine également les cas de spécification erronée. Ce n'est donc pas un hasard s'il constate que dans certains cas, la statistique de test est distribuée comme une combinaison linéaire de khi-deux .

Le papier n'est pas léger et il ne propose pas non plus de procédure de test "standard". Mais, pour une fois, ses (près de) 3 000 citations parlent de ses mérites, étant une combinaison inspirée du cadre de test classique et de l'approche de la théorie de l'information.

Alecos Papadopoulos
la source

Le test du rapport de vraisemblance généralisé NE FONCTIONNE PAS comme vous le dites. Voir par exemple les notes de cours suivantes:

http://www.maths.manchester.ac.uk/~peterf/MATH38062/MATH38062%20GLRT.pdf

http://www.maths.qmul.ac.uk/~bb/MS_Lectures_12b.pdf

Le GLRT est défini pour l'hypothèse du type:

H_{0} : θ \in Θ_{0} v s . H_{1} : θ \in Θ_{1},

$H_0: \theta\in\Theta_0 \,\,\, vs. \,\,\, H_1: \theta\in\Theta_1,$

où et . $\Theta_0\cap\Theta_1=\emptyset$ $\Theta_0\cup\Theta_1=\Theta$

Pour le cadre que vous décrivez, vous pouvez comparer les modèles à l'aide d'autres outils tels que AIC et BIC. Bayes prend également en compte, si vous êtes prêt à aller plein bayésien.

Batelier
la source

Bienvenue sur CV. Il serait peut-être intéressant pour vous de consulter le document que je mentionne dans ma propre réponse à cette question.

Alecos Papadopoulos

@AlecosPapadopoulos Merci pour la référence. J'ai jeté un coup d'œil rapide et, comme prévu, les conditions pour que ce type de GLRT fonctionne sont très très (très très) restrictives. Donc, je préférerais opter pour quelque chose de plus sûr. Je sais que c'est très cité, excuses pour le blasphème.

Waterman

@AlecosPapadopoulos En particulier, je trouve la compacité de la condition d'espace des paramètres (Hypothèse A2) extrêmement peu attrayante.

Waterman

L'anecdote historique très instructive (mais probablement pas réelle) autour du magnum opus de Laplace est que Napoléon le Grand l'a lu et a commenté à Laplace "Je vois que vous ne mentionnez Dieu nulle part dans votre livre", auquel Laplace aurait répondu "Je n'avais pas besoin cette hypothèse "... ce qui signifie que le concept de" sacré "n'est pas nécessaire en science, et donc, il ne peut y avoir de blasphème.

Alecos Papadopoulos

... quant à votre deuxième commentaire sur l'hypothèse A2, je suppose que cela signifie que tout le cadre du maximum de vraisemblance ne répond pas tout à fait aux besoins de votre domaine, sauf peut-être lorsque les distributions impliquées ont des densités log-concaves.

Alecos Papadopoulos