Je souhaite utiliser le critère d'information Akaike (AIC) pour choisir le nombre approprié de facteurs à extraire dans une ACP. Le seul problème est que je ne sais pas comment déterminer le nombre de paramètres. Considérons une matrice X , où N représente le nombre de variables et T le nombre...
L'AIC est défini comme , où est l'estimateur du maximum de vraisemblance et est la dimension de l'espace des paramètres. Pour l'estimation de , on néglige généralement le facteur constant de la densité. Il s'agit du facteur qui ne dépend pas des paramètres, afin de simplifier la probabilité. D'un...
Il est bien établi, au moins chez les statisticiens d'un calibre supérieur, que les modèles dont les valeurs de la statistique AIC se situent dans un certain seuil de la valeur minimale doivent être considérés comme appropriés comme modèle minimisant la statistique AIC. Par exemple, dans [1,...
Dans le livre de Bishop's PRML, il dit que le sur-ajustement est un problème avec l'estimation de maximum de vraisemblance (MLE), et que le bayésien peut l'éviter. Mais je pense que le sur-ajustement est un problème plus lié à la sélection du modèle, pas à la méthode utilisée pour faire...
Je voulais mieux comprendre le test exact du pêcheur, j'ai donc imaginé l'exemple de jouet suivant, où f et m correspond à l'homme et à la femme, et n et y correspond à la "consommation de soda" comme ceci: > soda_gender f m n 0 5 y 5 0 Évidemment, c'est une simplification drastique, mais je ne...
Dans la littérature, les deux termes sont souvent utilisés comme synonymes ou entrelacés. J'essaie maintenant de trouver une distinction claire entre les deux termes. De mon point de vue, une hypothèse est généralement exprimée via un modèle. Donc, même si nous testons une hypothèse nulle ou...
Je considère un grand (mais fini) espace de modèles de complexité variable que j'explore en utilisant RJMCMC . Le prior sur le vecteur de paramètre pour chaque modèle est assez informatif. Dans quels cas (le cas échéant) devrais-je m'inquiéter du paradoxe de Jeffreys-Lindley favorisant les modèles...
Il a été démontré que le choix du modèle ABC utilisant des facteurs de Bayes n'est pas recommandé en raison de la présence d'une erreur provenant de l'utilisation de statistiques sommaires. La conclusion de cet article repose sur l'étude du comportement d'une méthode populaire d'approximation du...
Avertissement: Ceci est pour un projet de devoirs. J'essaie de trouver le meilleur modèle pour les prix des diamants, en fonction de plusieurs variables et je semble avoir un assez bon modèle jusqu'à présent. Cependant, j'ai rencontré deux variables qui sont évidemment colinéaires:...
Chris Chatfield, dont j'ai apprécié la lecture de nombreux livres et articles de qualité, dans (1) donne les conseils suivants: Par exemple, le choix entre les modèles de séries chronologiques ARIMA avec des valeurs AIC faibles et approximativement égales devrait probablement être fait, non pas sur...
J'utilise PyMC3 pour exécuter des modèles bayésiens sur mes données. Je suis nouveau dans la modélisation bayésienne mais selon certains articles de blogs , Wikipedia et QA de ce site, il semble que ce soit une approche valable pour utiliser le facteur Bayes et le critère BIC pour pouvoir choisir...
J'ai essayé d'en savoir plus sur l'apprentissage en ligne ces derniers temps (c'est absolument fascinant!), Et un thème sur lequel je n'ai pas réussi à bien comprendre est de savoir comment penser la sélection de modèles dans des contextes hors ligne et en ligne. Plus précisément, supposons que...
J'ai une distribution de valeurs évidemment bimodale, que je cherche à adapter. Les données peuvent être adaptées à 2 fonctions normales (bimodales) ou à 3 fonctions normales. De plus, il existe une raison physique plausible pour ajuster les données avec 3. Plus il y a de paramètres introduits,...
Étant donné les multiples plis de validation croisée d'une régression logistique et les estimations multiples résultantes de chaque coefficient de régression, comment doit-on mesurer si un prédicteur (ou un ensemble de prédicteurs) est ou non stable et significatif sur la base du ou des...
Structure de données > str(data) 'data.frame': 6138 obs. of 10 variables: $ RT : int 484 391 422 516 563 531 406 500 516 578 ... $ ASCORE : num 5.1 4 3.8 2.6 2.7 6.5 4.9 2.9 2.6 7.2 ... $ HSCORE : num 6 2.1 7.9 1 6.9 8.9 8.2 3.6 1.7 8.6 ... $ MVMNT : Factor w/ 2 levels "_Withd","Appr": 2 2 1 1 2...
J'ai une question concernant la comparaison des modèles à l'aide des facteurs Bayes. Dans de nombreux cas, les statisticiens sont intéressés à utiliser une approche bayésienne avec des a priori impropres (par exemple certains a priori de Jeffreys et a priori de référence). Ma question est, dans les...
Pour mieux poser ma question, j'ai fourni quelques - unes des sorties à la fois un 16 modèle variable ( fit) et un 17 modèle variable ( fit2) ci - dessous (toutes les variables prédictives dans ces modèles sont continus, où la seule différence entre ces modèles est que fitne le fait pas contient la...
Supposons que j'ai une réponse bivariée avec une corrélation significative. J'essaie de comparer les deux façons de modéliser ces résultats. Une façon consiste à modéliser la différence entre les deux résultats: Une autre façon consiste à les utiliser ou à les modéliser:...
J'ai obtenu trois modèles réduits à partir d'un modèle complet original en utilisant sélection avant élimination en arrière Technique de pénalisation L1 (LASSO) Pour les modèles obtenus en utilisant la sélection vers l'avant / l'élimination vers l'arrière, j'ai obtenu l'estimation de validation...
Je comprends que si j'ai deux modèles A et B et A est imbriqué dans B, alors, compte tenu de certaines données, je peux ajuster les paramètres de A et B à l'aide de MLE et appliquer le test de rapport de vraisemblance logarithmique généralisé. En particulier, la distribution du test devrait être...