J'ai une question générale. Récemment, je viens d'apprendre l'expansion et la régularisation de la base. Il existe plusieurs techniques intéressantes, notamment: spline cubique, spline naturelle, spline b et spline de lissage . La question est, quels sont les avantages et les inconvénients (s'il y...
Supposons que je fasse une régression avec des ensembles de formation, de validation et de test. Je peux trouver RMSE et R au carré (R ^ 2, le coefficient de détermination) à la sortie de mon logiciel (comme la fonction lm () de R). Ma compréhension est que le test RMSE (ou MSE) est la mesure de la...
J'expérimente la régression pas à pas pour des raisons de diversité dans mon approche du problème. Donc, j'ai 2 questions: Quels sont les avantages de la régression pas à pas? Quelles sont ses forces spécifiques? Que pensez-vous de l'approche hybride, où vous utilisez la régression pas à pas pour...
D'accord, juste un peu flou sur certaines choses, toute aide serait très appréciée. Je crois comprendre que le modèle de régression linéaire est prédit via une attente conditionnelle E(Y|X)=b+Xb+eE(Y|X)=b+Xb+eE(Y|X)=b+Xb+e Supposons-nous que et Y sont des variables aléatoires avec une distribution...
Notre prof ne se lance pas dans les mathématiques ou même la représentation géométrique de la régression linéaire multiple et cela m'a légèrement confus. D'une part, il est toujours appelé régression linéaire multiple , même dans des dimensions plus élevées. D'un autre côté, si nous avons par...
Le mgcvpackage pour Ra deux fonctions pour ajuster les interactions des produits tensoriels: te()et ti(). Je comprends la division de base du travail entre les deux (ajustement d'une interaction non linéaire vs décomposition de cette interaction en effets principaux et interaction). Ce que je ne...
J'ai un ensemble de données contenant 365 observations de trois variables à savoir pm, tempet rain. Maintenant, je veux vérifier le comportement de la pmréponse aux changements dans les deux autres variables. Mes variables sont: pm10 = Réponse (dépendante) temp = prédicteur (indépendant) rain =...
Supposons que j'ai deux estimateurs et qui sont des estimateurs cohérents du même paramètre et tels que avec V_1 \ leq V_2 au sens psd. Ainsi, asymptotiquement \ widehat {\ beta} _1 est plus efficace que \ widehat {\ beta} _2 . Ces deux estimateurs sont basés sur différentes fonctions de perte. β...
Lors de la régression polynomiale de YOuiY sur XXX , les gens utilisent parfois des polynômes bruts, parfois des polynômes orthogonaux. Mais quand ils utilisent ce qui semble complètement arbitraire. Ici et ici, des polynômes bruts sont utilisés. Mais ici et ici , les polynômes orthogonaux semblent...
J'utilise un modèle de régression avec Lasso et Ridge (pour prédire une variable de résultat discrète allant de 0 à 5). Avant d'exécuter le modèle, j'utilise la SelectKBestméthode de scikit-learnpour réduire l'ensemble de fonctionnalités de 250 à 25 . Sans sélection initiale des caractéristiques,...
Je travaille sur un projet de modélisation prédictive ces jours-ci: essayer d'apprendre un modèle et faire des prédictions en temps réel sur la base du modèle que j'ai appris hors ligne. J'ai commencé à utiliser la régression de crête récemment, car j'ai lu que la régularisation peut aider à...
Modèle linéaire simple: x=αt+ϵtx=αt+ϵtx=\alpha t + \epsilon_t où ~ iid N ( 0 , σ 2 )ϵtϵt\epsilon_tN(0,σ2)N(0,σ2)N(0,\sigma^2) avec etV a r ( x ) = σ 2E(x)=αtE(x)=αtE(x) = \alpha tVar(x)=σ2Var(x)=σ2Var(x)=\sigma^2 AR (1): Xt=αXt−1+ϵtXt=αXt−1+ϵtX_t =\alpha X_{t-1} + \epsilon_t où ~ iid N ( 0 , σ 2...
Les modèles d'effets mixtes linéaires sont des extensions des modèles de régression linéaire pour les données collectées et résumées en groupes. Les principaux avantages sont que les coefficients peuvent varier par rapport à une ou plusieurs variables de groupe. Cependant, je me bats avec quand...
Je suis un étudiant en physique qui étudie l'apprentissage automatique / la science des données, donc je ne veux pas que cette question déclenche des conflits :) Cependant, une grande partie de tout programme de premier cycle en physique consiste à faire des laboratoires / expériences, ce qui...
Je suis conscient du fait que les variables catégorielles avec k niveaux doivent être codées avec k-1 variables dans le codage factice (de même pour les variables catégorielles à valeurs multiples). Je me demandais combien de problème un codage à chaud (c'est-à-dire en utilisant k variables à la...
Je lis le chapitre 13 "Adventures in Covariance" dans le ( superbe ) livre Statistical Rethinking de Richard McElreath où il présente le modèle hiérarchique suivant: ( REst une matrice de corrélation) L'auteur explique qu'il LKJcorrs'agit d'un a priori faiblement informatif qui fonctionne comme un...
Je souhaite améliorer ma compréhension des réseaux de neurones et de leurs avantages par rapport à d'autres algorithmes d'apprentissage automatique. Ma compréhension est comme ci-dessous et ma question est: Pouvez-vous corriger et compléter ma compréhension s'il vous plaît? :) Ma compréhension: (1)...
Lorsque nous voulons estimer des paramètres de régression linéaire, nous faisons des équations normales autant que le modèle linéaire contient un nombre d'inconnues. Pourquoi ces équations sont-elles appelées équations
J'ai deux régressions du même Y et du X à trois niveaux. Globalement n = 15, avec n = 5 dans chaque groupe ou niveau de X. La première régression traite le X comme catégorique, attribuant des variables indicatrices aux niveaux 2 et 3 avec le niveau l'un étant la référence. Les indicateurs /...
Le titre dit tout. Je comprends que les moindres carrés et le maximum de vraisemblance donneront le même résultat pour les coefficients de régression si les erreurs du modèle sont normalement distribuées. Mais que se passe-t-il si les erreurs ne sont pas normalement distribuées? Pourquoi les deux...