Test de la différence AIC de deux modèles non imbriqués

L'intérêt de l'AIC ou de tout autre critère d'information est que moins c'est mieux. Donc, si j'ai deux modèles M1: y = a0 + XA + e et M2: y = b0 + ZB + u, et si l'AIC du premier (A1) est inférieur à celui du second (A2), alors M1 a un meilleur ajustement du point de vue de la théorie de l'information. Mais existe-t-il un point de référence pour la différence A1-A2? Combien moins est en fait moins? En d'autres termes, existe-t-il un test pour (A1-A2) autre que le simple regard?

Edit: Peter / Dmitrij ... Merci d'avoir répondu. En fait, il s'agit d'un cas où mon expertise substantielle est en conflit avec mon expertise statistique. Essentiellement, le problème n'est pas de choisir entre deux modèles, mais de vérifier si deux variables que je sais être largement équivalentes ajoutent des quantités d'informations équivalentes (en fait, une variable dans le premier modèle et un vecteur dans le second. Réfléchissez au cas de un tas de variables par rapport à un index d'entre eux.). Comme l'a souligné Dmitrij, le meilleur pari semble être le test de Cox. Mais existe-t-il un moyen de tester réellement la différence entre le contenu informationnel des deux modèles?

La question de la curiosité, c'est-à-dire que vous n'êtes pas satisfait de ma réponse ici ? Si non...

Un examen plus approfondi de cette question délicate a montré qu'il existe une règle empirique couramment utilisée, selon laquelle deux modèles sont indiscernables par le critère si la différence | A I C 1 - A I C 2 | < 2 . La même chose que vous lirez dans l'article de wikipedia sur A I C (notez que le lien est cliquable!). Pour ceux qui ne cliquent pas sur les liens:$AIC$$|AIC_1 - AIC_2| < 2$$AIC$

estime le support relatif d'un modèle. Pour appliquer cela dans la pratique, nous commençons par un ensemble de modèles candidats, puis trouvons lesvaleurs A I C correspondantes des modèles. Ensuite, identifier le minimum A I C valeur. La sélection d'un modèle peut alors être effectuée comme suit.$AIC$$AIC$$AIC$

En règle générale, les modèles dont le compris entre du minimum bénéficient d'un soutien substantiel et doivent être pris en considération pour faire des inférences. Les modèles ayant leur à environ à du minimum ont considérablement moins de support, tandis que les modèles avec leur au-dessus du minimum n'ont essentiellement aucun support et pourraient être omis de plus ample examen ou du moins ne pas expliquer une variation structurelle substantielle dans les données.$AIC$A I $1–2$$AIC$A I C > $4–7$$AIC > 10$

Une approche plus générale est la suivante ...

Notons les valeurs des modèles candidats par , . Soit le minimum de ces valeurs. Alors peut être interprété comme la probabilité relative que le ème modèle minimise la perte d'information (estimée estimée).$AIC$A I C 2 , A I C 3 , … , A I C R A I C m i n e ( A I C m i n - A I C i ) / 2$AIC1$$AIC2, AIC3, \ldots, AICR$$AICmin$$e^{(AICmin−AICi)/2}$$i$

Par exemple, supposons qu'il y avait trois modèles dans l'ensemble candidat, avec les valeurs , et . Alors le deuxième modèle est fois plus probable que le premier modèle pour minimiser la perte d'informations, et le troisième modèle est fois aussi probable que le premier modèle pour minimiser la perte d'informations. Dans ce cas, nous pourrions omettre le troisième modèle de plus ample examen et prendre une moyenne pondérée des deux premiers modèles, avec les pondérations et , respectivement. L'inférence statistique serait alors basée sur le multimodèle pondéré.$AIC$$100$$102$$110$$e^{(100−102)/2} = 0.368$$e^{(100−110)/2} = 0.007$$1$$0.368$

Belle explication et suggestions utiles, à mon avis. N'ayez pas peur de lire ce qui est cliquable!

De plus , notez encore une fois, l' est moins préférable pour les ensembles de données à grande échelle. En plus de vous pouvez trouver utile d'appliquer la version corrigée du biais du critère (vous pouvez utiliser ce code ou utiliser la formule , où est le nombre de paramètres estimés). La règle générale sera la même cependant. $AIC$$BIC$$AIC$$AICc$R $AICc = AIC + \frac{2p(p+1)}{n-p-1}$$p$

Je pense que cela peut être une tentative d'obtenir ce que vous ne voulez pas vraiment.

La sélection des modèles n'est pas une science. Sauf dans de rares circonstances, il n'y a pas de modèle parfait, ni même de «vrai» modèle; il y a rarement même un "meilleur" modèle. Les discussions entre AIC vs AICc vs BIC vs SBC vs quoi que ce soit me laissent un peu perplexe. Je pense que l'idée est d'obtenir de BONS modèles. Vous choisissez ensuite parmi eux sur la base d'une combinaison d'expertise substantielle et d'idées statistiques. Si vous n'avez pas d'expertise substantielle (rarement le cas; beaucoup plus rarement que la plupart des gens ne le pensent), choisissez l'AIC le plus bas (ou AICc ou autre). Mais vous avez généralement une certaine expertise - sinon pourquoi étudiez-vous ces variables particulières?