Y a-t-il des circonstances dans lesquelles BIC est utile et AIC ne l'est pas?

Dans l'entrée Wikipedia pour le critère d'information Akaike , nous lisons sous Comparaison avec BIC (critère d'information bayésien) que

... AIC / AICc a des avantages théoriques sur BIC ... AIC / AICc est dérivé des principes de l'information; BIC n'est pas ... BIC a un a priori de 1 / R (où R est le nombre de modèles candidats), ce qui n'est "pas raisonnable" ... AICc a tendance à avoir des avantages pratiques / de performance par rapport à BIC ... AIC est asymptotiquement optimale ... BIC n'est pas asymptotiquement optimale ... la vitesse à laquelle AIC converge vers l'optimum est ... la meilleure possible.

Dans la section de discussion AIC , il y a de nombreux commentaires sur la présentation biaisée de la comparaison avec la section BIC. Un contributeur frustré a protesté contre le fait que l'article dans son intégralité "ressemble à une publicité pour les cigarettes".

Dans d'autres sources, par exemple cette annexe de thèse, la teneur des revendications d'AIC semble plus réaliste. Ainsi, en tant que service à la communauté, nous demandons:

Q: Y a-t-il des circonstances dans lesquelles BIC est utile et AIC ne l'est pas?

Selon Wikipedia, l'AIC peut être écrit comme suit: Comme le BIC permet une pénalisation importante pour les modèles complexes, il y a des situations dans lesquelles l'AIC indiquera que vous devez sélectionner un modèle qui est trop complexe, tandis que le BIC est toujours utile. Le BIC peut s'écrire comme suit: La différence est donc que le BIC pénalise la taille de l'échantillon. Si vous ne voulez pas pénaliser pour l'échantillon là-bas

Une explication rapide de Rob Hyndman peut être trouvée ici: Y a - t-il une raison de préférer l'AIC ou le BIC à l'autre? Il écrit:

• L'AIC est préférable pour la prédiction car elle est asymptotiquement équivalente à la validation croisée.
• Le BIC est préférable pour l'explication car il permet une estimation cohérente du processus de génération de données sous-jacent. **

Edit: Un exemple peut être trouvé dans l'analyse des séries chronologiques. Dans les modèles VAR, l'AIC (ainsi que sa version corrigée l'AICc) prennent souvent de nombreux retards. Par conséquent, il faut principalement regarder le BIC lors du choix du nombre de retards d'un VAR Modell. Pour plus d'informations, vous pouvez lire le chapitre 9.2 de Forecasting- Principles and Practice de Rob J. Hyndman et George Athanasopoulos.

Il n'est pas significatif de se demander si AIC est meilleur que BIC. Même si ces deux critères de sélection de modèles différents semblent superficiellement similaires, ils ont tous été conçus pour résoudre des problèmes fondamentalement différents. Vous devez donc choisir le critère de sélection du modèle qui convient au problème que vous rencontrez.

L'AIC est une formule qui estime la valeur attendue du double du logarithme négatif des données de test en utilisant un modèle de probabilité correctement spécifié dont les paramètres ont été obtenus en ajustant le modèle aux données d'apprentissage. C'est-à-dire que l'AIC estime l'erreur de validation croisée attendue en utilisant une erreur de vraisemblance logarithmique négative. Autrement dit, Où sont des données de test, est estimé en utilisant des données d'apprentissage, et désigne l'opérateur d'attente par rapport au processus de génération de données iid qui a généré à la fois les données d'apprentissage et de test.$AIC \approx E\{-2 \log \prod_{i=1}^n p(x_i | \hat{\theta}_n)\}$$x_1, \ldots, x_n$$\hat{\theta}_n$$E\{ \}$

BIC d'autre part n'est pas conçu pour estimer l'erreur de validation croisée. Le BIC estime le double du logarithme négatif de la probabilité des données observées compte tenu du modèle. Cette vraisemblance est aussi appelée probabilité marginale, elle est calculée en intégrant la fonction de vraisemblance pondérée par un paramètre antérieur sur l'espace des paramètres. C'est-à-dire .$p(\theta)$$BIC \approx -2 \log \int [\prod_{i=1}^n p( x_i | \theta) ] p(\theta)d\theta$