Interprétation des numéros AIC et BIC

23

Je recherche des exemples d'interprétation des estimations AIC (critère d'information Akaike) et BIC (critère d'information bayésien).

La différence négative entre les BIC peut-elle être interprétée comme la cote postérieure d'un modèle par rapport à l'autre? Comment puis-je mettre cela en mots? Par exemple, le BIC = -2 peut impliquer que les chances du meilleur modèle sur l'autre modèle sont approximativement ?e2=7.4

Tout conseil de base est apprécié par ce néophyte.

Juan
la source
Jetez un œil au chapitre 2. La section 2.6 - qui est partiellement disponible sur Google Books - pourrait en particulier vous aider. books.google.se/… (Réf: Sélection de modèles et inférence multimodèle par Kenneth P. Burnham et David R. Anderson. Springer Verlag)
boscovich

Réponses:

6

pour le modèle i d'unensemble de modèles aprioripeut être recalculé enoù le meilleur modèle de l'ensemble de modèles aura. Nous pouvons utiliser lesvaleurspour estimer la force de la preuve () pour tous les modèles de l'ensemble de modèles où: Ceci est souvent appelé le «poids de la preuve» pour le modèleétant donné l'ensemble de modèles apriori. Lorsqueaugmente,UNEjeCje Δ =0 Δ i w i w i = e ( - 0,5 Δ i )Δje=UNEjeCje-mjenUNEjeCΔ=0Δjewjeje

wje=e(-0,5Δje)r=1Re(-0,5Δje).
jew iΔjewjediminue, ce qui suggère que le modèle est moins plausible. Ces valeurs w i peuvent être interprétées comme la probabilité que le modèle soit le meilleur modèle étant donné l' ensemble de modèles a priori . Nous pourrions également calculer la probabilité relative du modèle par rapport au modèle comme . Par exemple, si et nous pourrions dire que le modèle est 8 fois plus probable que le modèle .jewjejejejwje/wjwje=0,8wj=0,1jej

Remarque, lorsque le modèle 1 est le meilleur modèle (le plus petit ). Burnham et Anderson (2002) appellent cela le ratio de preuves. Ce tableau montre comment le rapport de preuves change par rapport au meilleur modèle.w1/w2=e0,5Δ2UNEjeC

Information Loss (Delta)    Evidence Ratio
0                           1.0
2                           2.7
4                           7.4
8                           54.6
10                          148.4
12                          403.4
15                          1808.0

Référence

Burnham, KP et DR Anderson. 2002. Sélection de modèles et inférence multimodèle: une approche pratique de la théorie de l'information. Deuxième édition. Springer, New York, États-Unis.

Anderson, DR 2008. Inférence basée sur un modèle dans les sciences de la vie: introduction aux preuves. Springer, New York, États-Unis.

RioRaider
la source
rR
Il existe des modèles R dans le jeu de modèles.
RioRaider
3

Je ne pense pas qu'il existe une interprétation simple de l'AIC ou du BIC. Ce sont deux quantités qui prennent la probabilité logarithmique et lui appliquent une pénalité pour le nombre de paramètres à estimer. Les pénalités spécifiques sont expliquées pour AIC par Akaike dans ses articles à partir de 1974. BIC a été sélectionné par Gideon Schwarz dans son article de 1978 et est motivé par un argument bayésien.

Michael R. Chernick
la source
2
La pénalité peut cependant être interprétée comme une préférence pour les modèles d'une taille particulière. S'il vous arrive d'adopter cet avant (qui a des justifications théoriques de l'information), alors vous pouvez calculer un rapport de cotes postérieur directement à partir des valeurs IC. En outre, @RioRaider mentionne les poids Akaike, qui vous donnent la probabilité qu'un modèle donné soit le meilleur modèle de l'ensemble en termes de divergence KL. ( réf - voir p. 800).
David J. Harris
1

Vous utilisez probablement le BIC en raison de l'approximation du facteur Bayes. Par conséquent, vous ne considérez pas (plus ou moins) une distribution antérieure. Le BIC dans une étape de sélection de modèle est utile lorsque vous comparez les modèles. Pour bien comprendre le BIC, le facteur Bayes, je recommande fortement de lire un article (sec. 4): http://www.stat.washington.edu/raftery/Research/PDF/socmeth1995.pdf pour compléter les connaissances avec: http: // www .stat.washington.edu / raftery / Recherche / PDF / kass1995.pdf

Robert
la source