J'ai un ensemble de 150 fonctionnalités, et beaucoup d'entre elles sont fortement corrélées les unes aux autres. Mon objectif est de prédire la valeur d'une variable discrète, dont la plage est 1-8 . La taille de mon échantillon est de 550 et j'utilise une validation croisée 10 fois . AFAIK, parmi...
Il est bien connu que la régression linéaire avec une pénalité de équivaut à trouver l'estimation MAP donnée un a priori gaussien sur les coefficients. De même, l'utilisation d'une pénalité équivaut à l'utilisation d'une distribution de Laplace comme a priori.l2l2l^2l1l1l^1 Il n'est pas rare...
En pratique, l'utilisation d'un test T standard pour vérifier la signification d'un coefficient de régression linéaire est une pratique courante. La mécanique du calcul a du sens pour moi. Pourquoi la distribution T peut-elle être utilisée pour modéliser la statistique de test standard utilisée...
J'utilise Lasso pour la sélection d'entités dans un cadre dimensionnel relativement bas (n >> p). Après avoir ajusté un modèle Lasso, je veux utiliser les covariables avec des coefficients non nuls pour ajuster un modèle sans pénalité. Je fais cela parce que je veux des estimations...
J'ai vu cette liste ici et je ne pouvais pas croire qu'il y avait tant de façons de résoudre les moindres carrés. Les «équations normales» sur Wikipédia semblaient être une méthode assez simple: α^β^= y¯- β^X¯,= ∑ni = 1( xje- x¯) ( yje- y¯)∑ni = 1( xje-
J'essaie de savoir comment effectuer des tests d'hypothèse sur une régression linéaire (l'hypothèse nulle étant sans corrélation). Chaque guide et page sur le sujet que je rencontre semble utiliser un test t. Mais je ne comprends pas ce que signifie réellement le test t pour la régression linéaire....
J'ai formé un modèle de régression linéaire, en utilisant un ensemble de variables / fonctionnalités. Et le modèle a de bonnes performances. Cependant, j'ai réalisé qu'il n'y a pas de variable avec une bonne corrélation avec la variable prédite. Comment est-ce
Les estimateurs de régression pénalisés tels que LASSO et ridge correspondraient aux estimateurs bayésiens avec certains a priori. Je suppose (comme je ne connais pas assez les statistiques bayésiennes) que pour un paramètre de réglage fixe, il existe un a priori concret correspondant. Maintenant,...
J'ai lu d'innombrables articles sur ce site qui sont incroyablement contre l'utilisation de la sélection pas à pas de variables en utilisant n'importe quel type de critère, qu'il s'agisse de valeurs p, AIC, BIC, etc. Je comprends pourquoi ces procédures sont en général assez médiocres pour la...
J'ai une variable numérique qui s'avère non significative dans un modèle de régression logistique multivariée. Cependant, lorsque je le classe en groupes, il devient soudainement significatif. C'est très contre-intuitif pour moi: lors de la catégorisation d'une variable, nous renonçons à certaines...
Quelqu'un connaît-il un bon article de synthèse pour la littérature statistique sur la régression non linéaire? Je m'intéresse principalement aux résultats de cohérence et aux asymptotiques. Le modèle est particulièrement intéressant yje t= m ( xje t, θ ) + ϵje t,yjet=m(Xjet,θ)+ϵjet,y_{it} =...
Dans la régression logistique, est-il nécessaire de se préoccuper autant de la multicolinéarité que dans une régression OLS directe? Par exemple, avec une régression logistique, où la multicolinéarité existe, auriez-vous besoin d'être prudent (comme vous le feriez dans la régression OLS) en prenant...
Comment définir une formule de modèle dans R, lorsqu'une (ou plusieurs) restrictions linéaires exactes liant les coefficients est disponible. Par exemple, disons que vous savez que b1 = 2 * b0 dans un modèle de régression linéaire simple. Je vous
Comme la modélisation de régression est souvent plus «artistique» que scientifique, je me retrouve souvent à tester de nombreuses itérations d'une structure de régression. Quels sont les moyens efficaces de résumer les informations de ces multiples exécutions de modèle pour essayer de trouver le...
J'essaye d'implémenter une analyse de "point de changement", ou une régression polyphasée en utilisant nls()dans R. Voici quelques fausses données que j'ai faites . La formule que je veux utiliser pour ajuster les données est la suivante: y= β0+ β1x + β2max ( 0 , x - δ)y=β0+β1X+β2max(0,X-δ)y =...
En général, je standardise mes variables indépendantes en régressions, afin de comparer correctement les coefficients (de cette façon ils ont les mêmes unités: les écarts-types). Cependant, avec des données de panel / longitudinales, je ne sais pas comment je devrais standardiser mes données,...
Quelqu'un pourrait-il me dire ce que le terme «persistance» signifie dans l'analyse des séries chronologiques? Il s'agit d'économétrie et de régression
La page d'aide de Prism donne l'explication suivante sur la façon dont il calcule les bandes de prédiction pour la régression non linéaire. Veuillez excuser la longue citation, mais je ne suis pas le deuxième paragraphe (qui explique comment est défini et est calculé). Toute aide serait grandement...
J'ai un modèle linéaire classique, avec 5 régresseurs possibles. Ils ne sont pas corrélés entre eux et ont une corrélation assez faible avec la réponse. Je suis arrivé à un modèle où 3 des régresseurs ont des coefficients significatifs pour leur statistique t (p <0,05). L'ajout de l'une des deux...
Je suis assez nouveau dans ce domaine, j'espère donc que vous me pardonnerez si la question est naïve. (Contexte: j'apprends l'économétrie à partir du livre de Davidson & MacKinnon "Econometric Theory and Methods" , et ils ne semblent pas l'expliquer; j'ai également regardé le livre...