Je veux calculer l'AICc d'un modèle de régression de crête. Le problème est le nombre de paramètres. Pour la régression linéaire, la plupart des gens suggèrent que le nombre de paramètres est égal au nombre de coefficients estimés plus sigma (la variance de l'erreur). En ce qui concerne la...
Je construis des modèles ARIMA pour certaines données vent / vagues. Je construis un modèle distinct pour chaque variable. Deux des variables que je dois modéliser sont la direction des vagues et du vent. Les valeurs sont en degrés (0-360 °). Est-il possible de modéliser ce type de données où...
Petit historique Je travaille sur l'interprétation de l'analyse de régression mais je suis vraiment confus quant à la signification de r, r au carré et de l'écart-type résiduel. Je connais les définitions: Caractérisations r mesure la force et la direction d'une relation linéaire entre deux...
En général, il semble que la méthode des moments correspond simplement à la moyenne observée de l'échantillon ou à la variance des moments théoriques pour obtenir des estimations de paramètres. C'est souvent la même chose que MLE pour les familles exponentielles, je suppose. Cependant, il est...
Prémisse: cela peut être une question stupide. Je ne connais que les déclarations sur les propriétés asymptotiques MLE, mais je n'ai jamais étudié les preuves. Si je le faisais, je ne poserais peut-être pas ces questions, ou je réaliserais peut-être que ces questions n'ont pas de sens ... alors...
Objectif Confirmez si la compréhension de KKT est correcte ou non. Cherchez plus d'explications et de confirmations sur KKT. Contexte Essayer de comprendre les conditions KKT, en particulier la condition complémentaire, qui apparaît toujours à l'improviste dans les articles SVM. Je n'ai pas besoin...
J'obtiens des résultats déroutants pour la corrélation d'une somme avec une troisième variable lorsque les deux prédicteurs sont corrélés négativement. Qu'est-ce qui cause ces résultats déroutants? Exemple 1: corrélation entre la somme de deux variables et une troisième variable Considérons la...
La régression pas à pas avait été surutilisée dans de nombreux articles biomédicaux dans le passé, mais cela semble s'améliorer avec une meilleure éducation de ses nombreux problèmes. De nombreux critiques plus âgés le demandent cependant. Quelles sont les circonstances dans lesquelles la...
Je travaille sur un très gros problème de régression linéaire, avec une taille de données si grande qu'elles doivent être stockées sur un cluster de machines. Il sera beaucoup trop volumineux pour regrouper tous les échantillons dans la mémoire d'une seule machine (même le disque) Pour effectuer la...
Je recherche une référence où il est prouvé que la moyenne harmonique x¯h=n∑ni=11xix¯h=n∑i=1n1xi\bar{x}^h = \frac{n}{\sum_{i=1}^n \frac{1}{x_i}} minimise (en ) la somme des erreurs relatives au carrézzz ∑i=1n((xi−z)2xi).∑i=1n((xi−z)2xi).\sum_{i=1}^n \left( \frac{(x_i -...
D'après ce que je comprends, la sélection de variables basée sur les valeurs de p (au moins dans le contexte de régression) est très imparfaite. Il semble que la sélection de variables basée sur AIC (ou similaire) soit également considérée comme imparfaite par certains, pour des raisons similaires,...
Dans l'article de DeepMind de 2015 sur l'apprentissage par renforcement profond, il déclare que «les tentatives précédentes de combiner RL avec des réseaux de neurones ont échoué en grande partie en raison d'un apprentissage instable». L'article énumère ensuite certaines causes de cela, en fonction...
J'ai des données brutes qui ont environ 20 colonnes (20 fonctionnalités). Dix d'entre elles sont des données continues et 10 d'entre elles sont catégoriques. Certaines des données catégorielles peuvent avoir comme 50 valeurs différentes (États-Unis). Après avoir prétraité les données, les 10...
Supposons que nous ayons un problème de classification binaire avec des fonctionnalités principalement catégorielles. Nous utilisons un modèle non linéaire (par exemple XGBoost ou Random Forests) pour l'apprendre. Faut-il encore se préoccuper de la multi-colinéarité? Pourquoi? Si la réponse à ce...
Dans Mostly Harmless Econometrics: An Empiricist's Companion (Angrist et Pischke, 2009: page 209), je lis ce qui suit: (...) En fait, le 2SLS (par exemple, l'estimateur Wald simple) qui vient d'être identifié est approximativement sans biais . Ceci est difficile à montrer formellement parce que le...
Je sais qu'en régression linéaire, la variable de réponse doit être continue mais pourquoi en est-il ainsi? Je n'arrive pas à trouver quoi que ce soit en ligne qui explique pourquoi je ne peux pas utiliser de données discrètes pour la variable de
Une norme L1L1L_1 est unique (au moins en partie) car p=1p=1p=1 est à la frontière entre non convexe et convexe. Une norme L1L1L_1 est la norme convexe «la plus clairsemée» (non?). Je comprends que la norme euclidienne a ses racines dans la géométrie et elle a une interprétation claire lorsque les...
Je suis tombé sur une preuve pour l'une des propriétés du modèle ARCH qui dit que si E(X2t)<∞E(Xt2)<∞\mathbb{E}(X_t^2) < \infty , alors {Xt}{Xt}\{X_t\} est stationnaire ssi ∑pi=1bi<1∑i=1pbi<1\sum_{i=1}^pb_i < 1 où le modèle ARCH est: Xt=σtϵtXt=σtϵtX_t = \sigma_t\epsilon_t...
La topologie du modèle Google Inception est disponible ici: Google Inception Netowrk J'ai remarqué qu'il y a 3 couches softmax dans ce modèle (# 154, # 152, # 145), et 2 d'entre elles sont une sorte d'évasion précoce de ce modèle. D'après ce que je sais, la couche softmax est pour la sortie finale,...
Comme je suis sûr que tout le monde ici le sait déjà, le PDF de la distribution Beta est donné parX∼B(a,b)X∼B(a,b)X \sim B(a,b) f(x)=1B(a,b)xa−1(1−x)b−1f(x)=1B(a,b)xa−1(1−x)b−1f(x) = \frac{1}{B(a,b)}x^{a-1}(1-x)^{b-1} J'ai cherché partout pour une explication des origines de cette formule, mais je...