Je souffre d'une panne d'électricité. On m'a présenté l'image suivante pour présenter le compromis biais-variance dans le contexte de la régression linéaire: Je peux voir qu'aucun des deux modèles ne correspond bien - le "simple" n'apprécie pas la complexité de la relation XY et le "complexe" est...
Quand le mot «biais» a-t-il été inventé pour signifier ?E [ θ^- θ ]E[θ^−θ]\mathbb{E}[\hat{\theta}-\theta] La raison pour laquelle j'y pense en ce moment est parce que je semble me rappeler Jaynes, dans son texte de théorie des probabilités , critiquant l'utilisation du mot "biais" utilisé pour...
Pouvez-vous fournir un exemple d'estimateur MLE de la moyenne biaisée? Je ne cherche pas d'exemple qui casse les estimateurs MLE en général en violant les conditions de régularité. Tous les exemples que je peux voir sur Internet se réfèrent à la variance, et je n'arrive pas à trouver quoi que ce...
J'ai une question sur le biais variable omis dans la régression logistique et linéaire. Supposons que j'omet certaines variables d'un modèle de régression linéaire. Imaginez que ces variables omises ne sont pas corrélées avec les variables que j'ai incluses dans mon modèle. Ces variables omises ne...
J'ai toujours du mal à obtenir la véritable essence du problème des paramètres accessoires. J'ai lu à plusieurs reprises que les estimateurs à effets fixes des modèles de données de panel non linéaires peuvent être gravement biaisés en raison du problème de paramètre incident "bien connu". Lorsque...
J'ai lu maintes et maintes fois que la validation croisée "Leave-one-out" a une grande variance en raison du grand chevauchement des plis de formation. Cependant, je ne comprends pas pourquoi: les performances de la validation croisée ne devraient-elles pas être très stables (faible variance)...
Une hypothèse de base de l'utilisation de modèles de régression pour l'inférence est que «tous les prédicteurs pertinents» ont été inclus dans l'équation de prédiction. La justification est que le fait de ne pas inclure un facteur important du monde réel conduit à des coefficients biaisés et donc à...
J'essaie de comprendre le compromis biais-variance, la relation entre le biais de l'estimateur et le biais du modèle, et la relation entre la variance de l'estimateur et la variance du modèle. Je suis arrivé à ces conclusions: Nous avons tendance à surajuster les données lorsque nous négligeons le...
Cette question fait référence à l'article de Galit Shmueli "Expliquer ou prédire" . Plus précisément, dans la section 1.5, «Expliquer et prédire sont différents», le professeur Shmueli écrit: Dans la modélisation explicative, l'accent est mis sur la minimisation du biais pour obtenir la...
Des questions Cela dépend-il si l'arbre est peu profond ou profond? Ou peut-on dire cela indépendamment de la profondeur / des niveaux de l'arbre? Pourquoi le biais est-il faible et la variance élevée? Veuillez expliquer intuitivement et mathématiquement
Je souhaite obtenir une estimation non biaisée de R2R2R^2 dans une régression linéaire multiple. À la réflexion, je peux penser à deux valeurs différentes qu'une estimation non biaisée de pourrait essayer de faire correspondre.R2R2R^2 Hors échantillon :R2R2R^2 le carré r qui serait obtenu si...
En psychologie et dans d'autres domaines, une forme de régression par étapes est souvent employée et implique les éléments suivants: Examinez les prédicteurs restants (il n'y en a pas dans le modèle au début) et identifiez le prédicteur qui entraîne le plus grand changement du carré r; Si la valeur...
Un ami représente un client en appel, après un procès pénal au cours duquel il semble que la sélection du jury ait été biaisée sur le plan racial. Le jury était composé de 30 personnes, réparties en 4 groupes raciaux. L'accusation a utilisé des défis impératifs pour éliminer 10 de ces personnes de...
θ^θ^\hat\thetaθ∗θ∗\theta^*nnn∥θ^−θ∗∥‖θ^−θ∗‖\lVert\hat\theta-\theta^*\rVertO(1/n−−√)O(1/n)O(1/\sqrt n)∥Eθ^−θ∗∥‖Eθ^−θ∗‖\lVert \mathbb E\hat\theta - \theta^*\rVert∥Eθ^−θ^∥‖Eθ^−θ^‖\lVert \mathbb E\hat\theta - \hat\theta\rVertO(1/n−−√)O(1/n)O(1/\sqrt{n}) Je m'intéresse aux modèles qui ont un biais qui...
J'essaie d'obtenir une compréhension intuitive et de ressentir la différence et la différence pratique entre le terme cohérent et asymptotiquement impartial. Je connais leurs définitions mathématiques / statistiques, mais je cherche quelque chose d'intuitif. Pour moi, en regardant leurs définitions...
Selon ce tutoriel sur l'apprentissage en profondeur , la décroissance du poids (régularisation) n'est généralement pas appliquée aux termes de biais b pourquoi? Quelle est la signification (l'intuition) derrière
Lors de l'apprentissage du cours d'échantillonnage, je rencontre les deux énoncés suivants: 1) L'erreur d'échantillonnage entraîne principalement une variabilité, les erreurs de non-échantillonnage entraînent un biais. 2) En raison d'une erreur de non-échantillonnage, un échantillon est souvent...
J'aimerais acquérir une compréhension conceptuelle de l'erreur quadratique moyenne (RMSE) et de l'écart de biais moyen (MBD). Après avoir calculé ces mesures pour mes propres comparaisons de données, j'ai souvent été perplexe de constater que le RMSE est élevé (par exemple, 100 kg), tandis que le...
Je suis en charge de présenter les résultats des tests A / B (exécutés sur les variantes du site) dans mon entreprise. Nous exécutons le test pendant un mois, puis vérifions les valeurs de p à intervalles réguliers jusqu'à ce que nous atteignions la signification (ou abandonnons si la signification...
Dans Statistical Methods in the Atmospheric Sciences , Daniel Wilks note que la régression linéaire multiple peut entraîner des problèmes s'il existe de très fortes intercorrélations entre les prédicteurs (3e édition, pages 559-560): Une pathologie qui peut se produire dans une régression linéaire...