Lors du calcul de l'AIC, AIC=2k−2lnLAIC=2k−2lnLAIC = 2k - 2 ln L k signifie «nombre de paramètres». Mais qu'est-ce qui compte comme paramètre? Ainsi, par exemple dans le modèle y=ax+by=ax+by = ax + b Est-ce que a et b sont toujours comptés comme paramètres? Et si je ne me soucie pas de la valeur de...
Dans un petit ensemble de données ( ) avec lequel je travaille, plusieurs variables me donnent une prédiction / séparation parfaite . J'utilise donc la régression logistique de Firth pour traiter le problème.n∼100n∼100n\sim100 Si je sélectionne le meilleur modèle par AIC ou BIC , dois-je inclure le...
Disons que nous devons les GLMM mod1 <- glmer(y ~ x + A + (1|g), data = dat) mod2 <- glmer(y ~ x + B + (1|g), data = dat) Ces modèles ne sont pas imbriqués dans le sens habituel de: a <- glmer(y ~ x + A + (1|g), data = dat) b <- glmer(y ~ x + A + B + (1|g), data = dat) donc nous ne...
Après avoir lu "To Explain or to Predict" de Galit Shmueli (2010), je suis perplexe face à une apparente contradiction. Il y a trois prémisses, Choix du modèle basé sur AIC ou BIC (fin de la page 300 - début de la page 301): en termes simples, l'AIC doit être utilisé pour sélectionner un modèle...
Cette question est un suivi ou une tentative de dissiper une confusion possible concernant un sujet que beaucoup d'autres trouvent un peu difficile, en ce qui concerne la différence entre AIC et BIC. Dans une très belle réponse de @Dave Kellen sur ce sujet ( /stats//a/767/30589 ), nous lisons:...
L'essence de ma question est la suivante: Soit Y∈RnY∈RnY \in \mathbb{R}^n une variable aléatoire normale multivariée de moyenne μμ\mu et de matrice de covariance ΣΣ\Sigma . Soit Z:=log(Y)Z:=log(Y)Z := \log(Y) , c'est-à-dire Zi=log(Yi),i∈{1,…,n}Zi=log(Yi),i∈{1,…,n}Z_i = \log(Y_i), i \in...
J'ai lu d'innombrables articles sur ce site qui sont incroyablement contre l'utilisation de la sélection pas à pas de variables en utilisant n'importe quel type de critère, qu'il s'agisse de valeurs p, AIC, BIC, etc. Je comprends pourquoi ces procédures sont en général assez médiocres pour la...
Je suis juste tombé sur "critère d'information Akaike", et j'ai remarqué cette grande quantité de littérature sur la sélection des modèles (aussi des choses comme BIC semblent exister). Pourquoi les méthodes modernes d'apprentissage automatique ne profitent-elles pas de ces critères de sélection...
(Cette question peut sembler mieux adaptée à la philosophie SE. J'espère que les statisticiens pourront clarifier mes idées fausses sur les déclarations de Box et Shmueli, donc je la poste ici). George Box (de renommée ARIMA) a déclaré: "Tous les modèles sont faux, mais certains sont utiles." Galit...
J'ai essayé de calculer l'AIC d'une régression linéaire dans R mais sans utiliser la AICfonction, comme ceci: lm_mtcars <- lm(mpg ~ drat, mtcars) nrow(mtcars)*(log((sum(lm_mtcars$residuals^2)/nrow(mtcars))))+(length(lm_mtcars$coefficients)*2) [1] 97.98786 Cependant, AICdonne une valeur...
J'étudie les statistiques de nombreux livres depuis 3 ans et grâce à ce site j'ai beaucoup appris. Néanmoins, une question fondamentale reste pour moi sans réponse. Il peut avoir une réponse très simple ou très difficile, mais je sais que cela nécessite une compréhension approfondie des...
J'ai quelques questions sur l'AIC et j'espère que vous pourrez m'aider. J'ai appliqué la sélection de modèle (en arrière ou en avant) en fonction de l'AIC sur mes données. Et certaines des variables sélectionnées se sont retrouvées avec des valeurs de p> 0,05. Je sais que les gens disent que...
Ma compréhension générale est que l' AIC traite de l'arbitrage entre la qualité de l'ajustement du modèle et la complexité du modèle. A jeC= 2 k - 2 l n ( L )UNEjeC=2k-2ln(L)AIC =2k -2ln(L) = nombre de paramètres dans le modèlekkk = vraisemblanceLLL Le critère d'information bayésien BIC est...
Comme motivé par le récent changement de la statistique de sélection de modèle par défaut dans l'ensemble de prévisions du R de AIC à AICc, je suis curieux de savoir si ce dernier est effectivement applicable où que ce soit le premier. J'ai une série de questions à ce sujet et voici la première. Je...
J'ai essayé d'apprendre et d'appliquer des modèles ARIMA. J'ai lu un excellent texte sur ARIMA de Pankratz - Prévision avec boîte univariée - Modèles Jenkins: concepts et cas . Dans le texte, l'auteur insiste particulièrement sur le principe de parcimonie dans le choix des modèles ARIMA. J'ai...
Je gère un modèle logistique. L'ensemble de données du modèle réel comporte plus de 100 variables, mais je choisis un ensemble de données de test dans lequel il y a environ 25 variables. Avant cela, j'ai également créé un ensemble de données contenant 8 à 9 variables. On me dit que les valeurs AIC...
Le test du rapport de vraisemblance et l'AIC sont tous deux des outils pour choisir entre deux modèles et les deux sont basés sur le log-vraisemblance. Mais pourquoi le test du rapport de vraisemblance ne peut-il pas être utilisé pour choisir entre deux modèles non imbriqués alors que l'AIC le...
Je fais des prévisions dans R en utilisant le package de prévisions de Rob Hyndman . Le papier appartenant au paquet peut être trouvé ici . Dans l'article, après avoir expliqué les algorithmes de prévision automatique, les auteurs mettent en œuvre les algorithmes sur le même ensemble de données....
Disons que j'ai un problème de sélection de modèle et j'essaie d'utiliser AIC ou BIC pour évaluer les modèles. C'est simple pour les modèles qui ont un certain nombre kkk de paramètres à valeur réelle. Cependant, que se passe-t-il si l'un de nos modèles (par exemple, le modèle Mallows ) a une...
Je veux calculer l'AICc d'un modèle de régression de crête. Le problème est le nombre de paramètres. Pour la régression linéaire, la plupart des gens suggèrent que le nombre de paramètres est égal au nombre de coefficients estimés plus sigma (la variance de l'erreur). En ce qui concerne la...