Je suis tombé sur un vaste corpus de littérature qui préconise d'utiliser la métrique de l'information de Fisher comme métrique locale naturelle dans l'espace des distributions de probabilité, puis de l'intégrer pour définir les distances et les volumes. Mais ces quantités «intégrées» sont-elles...
Je gère un modèle logistique. L'ensemble de données du modèle réel comporte plus de 100 variables, mais je choisis un ensemble de données de test dans lequel il y a environ 25 variables. Avant cela, j'ai également créé un ensemble de données contenant 8 à 9 variables. On me dit que les valeurs AIC...
D'après ce que je comprends, la sélection de variables basée sur les valeurs de p (au moins dans le contexte de régression) est très imparfaite. Il semble que la sélection de variables basée sur AIC (ou similaire) soit également considérée comme imparfaite par certains, pour des raisons similaires,...
Nous avons deux modèles qui utilisent la même méthode pour calculer la vraisemblance logarithmique et l'AIC pour l'un est inférieur à l'autre. Cependant, celui avec l'AIC inférieur est beaucoup plus difficile à interpréter. Nous avons du mal à décider si cela vaut la peine d'introduire la...
Je travaille actuellement sur un problème dans lequel nous avons un petit ensemble de données et nous nous intéressons à l'effet de causalité d'un traitement sur le résultat. Mon conseiller m'a demandé d'effectuer une régression univariée sur chaque prédicteur avec le résultat comme réponse, puis...
Je pense que je comprends comment fonctionnent les principes fondamentaux du bootstrap , mais je ne suis pas sûr de comprendre comment je peux utiliser le bootstrap pour la sélection de modèle ou pour éviter le sur-ajustement. Pour la sélection du modèle, par exemple, choisiriez-vous simplement le...
La régression pas à pas avait été surutilisée dans de nombreux articles biomédicaux dans le passé, mais cela semble s'améliorer avec une meilleure éducation de ses nombreux problèmes. De nombreux critiques plus âgés le demandent cependant. Quelles sont les circonstances dans lesquelles la...
En réponse à une question sur la sélection des modèles en présence de multicolinéarité , Frank Harrell a suggéré : Mettez toutes les variables dans le modèle mais ne testez pas l'effet d'une variable ajustée pour les effets des variables concurrentes ... en compétition les uns contre les autres...
Si je souhaitais ajuster les interactions bidirectionnelles entre une variable explicative linéaire et autre variable explicative qui a une relation quadratique avec la variable dépendante , devrais-je inclure à la fois l'interaction avec la composante quadratique et l'interaction avec la linéaire...
Je fais des prévisions dans R en utilisant le package de prévisions de Rob Hyndman . Le papier appartenant au paquet peut être trouvé ici . Dans l'article, après avoir expliqué les algorithmes de prévision automatique, les auteurs mettent en œuvre les algorithmes sur le même ensemble de données....
J'ai un ensemble de valeurs xxx et yyy qui sont théoriquement liées de façon exponentielle: y=axby=axby = ax^b Une façon d'obtenir les coefficients consiste à appliquer des logarithmes naturels des deux côtés et à ajuster un modèle linéaire: > fit <- lm(log(y)~log(x)) > a <-...
D'après mes résultats, il apparaît que GLM Gamma répond à la plupart des hypothèses, mais est-ce une amélioration intéressante par rapport au LM transformé en log? La plupart de la littérature que j'ai trouvée traite des GLM de Poisson ou binomiaux. J'ai trouvé l'article ÉVALUATION DES HYPOTHÈSES...
Je comprends le principe de base derrière l'algorithme pour LLE se compose de trois étapes. Trouver le voisinage de chaque point de données par une métrique telle que k-nn. Trouvez des poids pour chaque voisin qui dénotent l'effet du voisin sur le point de données. Construire l'incorporation de...
J'utilise actuellement l'analyse des composants principaux pour sélectionner les variables à utiliser dans la modélisation. En ce moment, je fais des mesures A, B et C dans mes expériences - Ce que je veux vraiment savoir, c'est: Puis-je faire moins de mesures et arrêter l'enregistrement de C et ou...
Remarque: cette question est une rediffusion, car ma question précédente a dû être supprimée pour des raisons juridiques. En comparant PROC MIXED de SAS avec la fonction lmedu nlmepackage dans R, je suis tombé sur des différences assez confuses. Plus précisément, les degrés de liberté dans les...
Je souhaite utiliser le critère d'information Akaike (AIC) pour choisir le nombre approprié de facteurs à extraire dans une ACP. Le seul problème est que je ne sais pas comment déterminer le nombre de paramètres. Considérons une matrice X , où N représente le nombre de variables et T le nombre...
L'AIC est défini comme , où est l'estimateur du maximum de vraisemblance et est la dimension de l'espace des paramètres. Pour l'estimation de , on néglige généralement le facteur constant de la densité. Il s'agit du facteur qui ne dépend pas des paramètres, afin de simplifier la probabilité. D'un...
Je considère un grand (mais fini) espace de modèles de complexité variable que j'explore en utilisant RJMCMC . Le prior sur le vecteur de paramètre pour chaque modèle est assez informatif. Dans quels cas (le cas échéant) devrais-je m'inquiéter du paradoxe de Jeffreys-Lindley favorisant les modèles...
Dans le livre de Bishop's PRML, il dit que le sur-ajustement est un problème avec l'estimation de maximum de vraisemblance (MLE), et que le bayésien peut l'éviter. Mais je pense que le sur-ajustement est un problème plus lié à la sélection du modèle, pas à la méthode utilisée pour faire...
Je voulais mieux comprendre le test exact du pêcheur, j'ai donc imaginé l'exemple de jouet suivant, où f et m correspond à l'homme et à la femme, et n et y correspond à la "consommation de soda" comme ceci: > soda_gender f m n 0 5 y 5 0 Évidemment, c'est une simplification drastique, mais je ne...