C'est la fonction de perte de déviance binomiale de scikit GradientBoosting, def __call__(self, y, pred, sample_weight=None): """Compute the deviance (= 2 * negative log-likelihood). """ # logaddexp(0, v) == log(1.0 + exp(v)) pred = pred.ravel() if sample_weight is None: return -2.0 * np.mean((y *...
Je comprends que les réseaux de neurones (NN) peuvent être considérés comme des approximateurs universels des deux fonctions et de leurs dérivés, sous certaines hypothèses (à la fois sur le réseau et sur la fonction à approximer). En fait, j'ai fait un certain nombre de tests sur des fonctions...
Je passe par la section LAB §6.6 sur Ridge Regression / Lasso dans le livre 'An Introduction to Statistical Learning with Applications in R' de James, Witten, Hastie, Tibshirani (2013). Plus précisément, j'essaie d'appliquer le Ridgemodèle scikit-learn au jeu de données «Hitters» du package R...
J'utilise le processus gaussien (GP) pour la régression. Dans mon problème, il est assez courant que deux ou plusieurs points de données soient proches l'un de l'autre, relativement aux échelles de longueur du problème. De plus, les observations peuvent être extrêmement bruyantes. Pour accélérer...
Supposons que je veuille apprendre un classificateur qui prend un vecteur de nombres en entrée et donne une étiquette de classe en sortie. Mes données d'entraînement se composent d'un grand nombre de paires d'entrée-sortie. Cependant, lorsque je viens de tester certaines nouvelles données, ces...
J'essaie d'incorporer environ 60 millions de phrases dans un espace vectoriel , puis de calculer la similitude en cosinus entre elles. J'ai utilisé sklearn CountVectorizeravec une fonction de tokenizer construite sur mesure qui produit des unigrammes et des bigrammes. Il s'avère que pour obtenir...
Je recherche des ressources (livres, notes de cours, etc.) sur les techniques pouvant gérer des données à cibles multiples (Ex: trois variables dépendantes: 2 discrètes et 1 continue). Quelqu'un at-il des ressources / connaissances à ce sujet? Je sais qu'il est possible d'utiliser des réseaux de...
Comment les cartes d'activation d'une couche donnée sont-elles connectées aux filtres de cette couche? Je ne demande pas comment faire une opération convolutionnelle entre le filtre et la carte d'activation, je demande le type de connectivité de ces deux-là. Par exemple, supposons que vous...
J'ai toujours lu le terme interaction dans le contexte de la régression. Devrions-nous également considérer les interactions avec différents modèles, par exemple knn ou svm? S'il y a , ou même plus de fonctionnalités et disons observations quelle est la manière habituelle de trouver des...
Je fais du prétraitement des données et je vais ensuite construire un Convonets sur mes données. Ma question est: disons que j'ai un total de jeux de données avec 100 images, je calculais la moyenne pour chacune des 100 images, puis je la soustrais de chacune des images, puis je la divise en train...
Je connais les bases de SVM et SVR, mais je ne comprends toujours pas comment le problème de trouver un hyperplan qui maximise la marge s'intègre dans SVR. Deuxièmement, j'ai lu quelque chose sur utilisé comme marge de tolérance dans SVR. Qu'est-ce que ça veut dire?ϵϵ\epsilon Troisièmement, y...
Tout est dans le titre, est-il judicieux d'utiliser la sélection des fonctionnalités avant d'utiliser la forêt
Le papier est ici . La politique de déploiement ... est une politique de softmax linéaire basée sur des fonctionnalités rapides, calculées de manière incrémentielle et basées sur des modèles locaux ... Je ne comprends pas ce qu'est la politique de déploiement et comment elle est liée au réseau de...
Je rencontre actuellement des problèmes lors de l'analyse d'un ensemble de données de tweet avec des machines à vecteurs de support. Le problème est que j'ai un ensemble d'entraînement en classe binaire déséquilibré (5: 2); qui devrait être proportionnelle à la distribution réelle des classes. Lors...
Quelqu'un a-t-il essayé de vérifier si l'ajustement d'un modèle Elastic Net avec ElasticNetin scikit-learn en Python et glmneten R sur le même ensemble de données produit des résultats arithmétiques identiques? J'ai expérimenté de nombreuses combinaisons de paramètres (car les deux fonctions...
Sur la p. 34 de Introduction à l'apprentissage statistique : \newcommand{\Var}{{\rm Var}} Bien que la preuve mathématique dépasse le cadre de ce livre, il est possible de montrer que le test attendu MSE, pour une valeur donnée x0x0x_0 , peut toujours être décomposé en la somme de trois quantités...
Récemment, nous avons vu l'émergence du réseau neuronal résiduel, dans lequel, chaque couche se compose d'un module de calcul et d'une connexion de raccourci qui préserve l'entrée de la couche telle que la sortie de la ième couche présente: Le réseau permet d'extraire les caractéristiques...
Je lisais le document de normalisation par lots [1] et il y avait une section où se trouve un exemple, essayant de montrer pourquoi la normalisation doit être effectuée avec soin. Honnêtement, je ne peux pas comprendre comment l'exemple fonctionne et je suis vraiment très curieux de comprendre...
J'ai déjà suivi un cours de ML, mais maintenant que je travaille avec des projets liés au ML dans mon travail, j'ai beaucoup de mal à l'appliquer. Je suis sûr que les trucs que je fais ont déjà fait l'objet de recherches / traités, mais je ne trouve pas de sujets spécifiques. Tous les exemples...
Je me demandais s'il y avait des techniques d'apprentissage automatique (non supervisées) pour modéliser des données longitudinales? J'ai toujours utilisé des modèles d'effets mixtes (principalement non linéaires) mais je me demandais s'il y avait d'autres façons de le faire (en utilisant...