Considérons un problème de régression OLS standard : J'ai des matrices \ Y et \ X et je veux trouver \ B pour minimiser L = \ | \ Y- \ X \ B \ | ^ 2. La solution est donnée par \ hat \ B = \ argmin_ \ B \ {L \} = (\ X ^ \ top \ X) ^ + \ X ^ \ top \ Y.\newcommand{\Y}{\mathbf
J'ai utilisé des moindres carrés itérativement repondérés (IRLS) pour minimiser les fonctions de la forme suivante, J(m)=∑Ni=1ρ(|xi−m|)J(m)=∑i=1Nρ(|xi−m|)J(m) = \sum_{i=1}^{N} \rho \left(\left| x_i - m \right|\right) où NNN est le nombre d'instances de xi∈Rxi∈Rx_i \in \mathbb{R} , m∈Rm∈Rm \in...
Ce lien wikipedia répertorie un certain nombre de techniques pour détecter l'hétéroscédasticité des résidus OLS. Je voudrais savoir quelle technique pratique est plus efficace pour détecter les régions affectées par l'hétéroscédasticité. Par exemple, ici, la région centrale du graphique OLS ``...
Je suis assez nouveau dans ce domaine, j'espère donc que vous me pardonnerez si la question est naïve. (Contexte: j'apprends l'économétrie à partir du livre de Davidson & MacKinnon "Econometric Theory and Methods" , et ils ne semblent pas l'expliquer; j'ai également regardé le livre...
J'essaie de comprendre comment fonctionnent les fonctions d'influence. Quelqu'un pourrait-il expliquer dans le contexte d'une simple régression OLS yje= α + β⋅ xje+ εjeyje=α+β⋅Xje+εje\begin{equation} y_i = \alpha + \beta \cdot x_i + \varepsilon_i \end{equation} où je veux la fonction d'influence...
Je fais une présentation sur l'ajustement des lignes. J'ai une fonction linéaire simple, . J'essaie d'obtenir des points de données dispersées que je peux mettre dans un nuage de points qui maintiendra ma ligne de meilleur ajustement dans la même équation.y=1x+by=1x+by=1x+b Je serais ravi...
Pour un modèle linéaire, la solution OLS fournit le meilleur estimateur linéaire sans biais pour les paramètres. Bien sûr, nous pouvons échanger un biais pour une variance plus faible, par exemple la régression des crêtes. Mais ma question concerne l'absence de parti pris. Existe-t-il d'autres...
J'essaie de voir s'il faut opter pour la régression de crête , LASSO , la régression en composantes principales (PCR) ou les moindres carrés partiels (PLS) dans une situation où il y a un grand nombre de variables / caractéristiques ( ) et un plus petit nombre d'échantillons ( n < p ), et mon...
Je suis censé enseigner le théorème de Frish Waugh en économétrie, que je n'ai pas étudié. J'ai compris les mathématiques et j'espère que l'idée aussi "le coefficient que vous obtenez pour un coefficient particulier à partir d'un modèle linéaire multiple est égal au coefficient du modèle de...
Aujourd'hui, je jouais avec un petit ensemble de données et j'ai effectué une régression OLS simple que je m'attendais à échouer en raison d'une parfaite multicolinéarité. Mais ce ne fut pas le cas. Cela implique que ma compréhension de la multicolinéarité est fausse. Ma question est: où je me...
Remarque: SSTSSTSST = somme des carrés au total, SSESSESSE = somme des erreurs au carré et SSRSSRSSR = somme des carrés de régression. L'équation dans le titre est souvent écrite comme suit: ∑i=1n(yi−y¯)2=∑i=1n(yi−y^i)2+∑i=1n(y^i−y¯)2∑i=1n(yi−y¯)2=∑i=1n(yi−y^i)2+∑i=1n(y^i−y¯)2\sum_{i=1}^n (y_i-\bar...
Disons que nous avons X de forme (2, 5) et y de forme (2,) Cela marche: np.linalg.lstsq(X, y) Nous nous attendrions à ce que cela ne fonctionne que si X était de forme (N, 5) où N> = 5 Mais pourquoi et comment? Nous récupérons 5 poids comme prévu, mais comment ce problème est-il résolu? N'est-ce...
Quelqu'un peut-il m'expliquer brièvement pourquoi chacune des six hypothèses est nécessaire pour calculer l'estimateur OLS? Je n'ai découvert que la multicolinéarité - si elle existe, nous ne pouvons pas inverser la matrice (X'X) et à son tour estimer l'estimateur global. Qu'en est-il des autres...
Pourquoi cherchons-nous à minimiser x^2au lieu de minimiser |x|^1.95ou |x|^2.05. Y a-t-il des raisons pour lesquelles le nombre devrait être exactement deux ou est-ce simplement une convention qui a l'avantage de simplifier les
Je suis diplômé des affaires et de l'économie et j'étudie actuellement pour une maîtrise en ingénierie des données. Tout en étudiant la régression linéaire (LR) puis l'analyse des séries chronologiques (TS), une question m'est venue à l'esprit. Pourquoi créer une toute nouvelle méthode,...
Je sais comment effectuer une régression linéaire sur un ensemble de points. Autrement dit, je sais comment adapter un polynôme de mon choix, à un ensemble de données donné (au sens LSE). Cependant, ce que je ne sais pas, c'est comment forcer ma solution à passer par certains points particuliers de...
La question est simple: est-il approprié d'utiliser une régression linéaire lorsque Y est borné et discret (par exemple, le score du test 1 ~ 100, certains classements prédéfinis 1 ~ 17)? Dans ce cas, est-il «pas bon» d'utiliser la régression linéaire ou est-ce totalement faux de...
La question ci-dessus dit tout. Fondamentalement, ma question concerne une fonction d'ajustement générique (qui pourrait être arbitrairement compliquée) qui sera non linéaire dans les paramètres que j'essaie d'estimer, comment choisit-on les valeurs initiales pour initialiser l'ajustement? J'essaie...
Cette question est inspirée de la longue discussion dans les commentaires ici: Comment la régression linéaire utilise-t-elle la distribution normale? Dans le modèle de régression linéaire habituel, pour plus de simplicité, écrit ici avec un seul prédicteur: où les sont des constantes connues et...
Si, dans les régressions OLS standard, deux hypothèses sont violées (distribution normale des erreurs, homoscédasticité), l'amorçage des erreurs standard et des intervalles de confiance est-il une alternative appropriée pour obtenir des résultats significatifs en ce qui concerne la signification...