J'ai (approximativement) entendu que: l'ensachage est une technique pour réduire la variance d'un prédicteur / estimateur / algorithme d'apprentissage. Cependant, je n'ai jamais vu de preuve mathématique formelle de cette affirmation. Est-ce que quelqu'un sait pourquoi c'est mathématiquement vrai?...
Ma question peut être stupide. Je m'excuse donc à l'avance. J'essayais d'utiliser le modèle GLOVE pré-formé par Stanford NLP group ( lien ). Cependant, j'ai remarqué que mes résultats de similitude montraient des chiffres négatifs. Cela m'a immédiatement incité à regarder le fichier de données...
J'ai construit un classificateur de régression logistique qui est très précis sur mes données. Maintenant, je veux mieux comprendre pourquoi cela fonctionne si bien. Plus précisément, j'aimerais classer les fonctionnalités qui apportent la plus grande contribution (quelles fonctionnalités sont les...
Tout d'abord, des excuses pour avoir posté une question qui a déjà été longuement discutée ici , ici , ici , ici , iciet pour réchauffer un vieux sujet. Je sais que @DikranMarsupial a longuement écrit sur ce sujet dans des articles et des journaux, mais je suis toujours confus, et à en juger par le...
Je travaille avec de nombreux algorithmes: RandomForest, DecisionTrees, NaiveBayes, SVM (kernel = linear et rbf), KNN, LDA et XGBoost. Tous étaient assez rapides à l'exception de SVM. C'est à ce moment que j'ai appris qu'il avait besoin d'une mise à l'échelle des fonctionnalités pour fonctionner...
Je viens de terminer la lecture de cette discussion. Ils soutiennent que PR AUC est meilleure que ROC AUC sur un ensemble de données déséquilibré. Par exemple, nous avons 10 échantillons dans l'ensemble de données de test. 9 échantillons sont positifs et 1 négatif. Nous avons un modèle terrible qui...
Voici les 6 limites de décision ci-dessous. Les limites de décision sont des lignes violettes. Les points et les croix sont deux ensembles de données différents. Nous devons décider lequel est: SVM linéaire SVM noyé (noyau polynomial d'ordre 2) Perceptron Régression logistique Réseau de neurones (1...
J'ai formé un modèle de régression linéaire, en utilisant un ensemble de variables / fonctionnalités. Et le modèle a de bonnes performances. Cependant, j'ai réalisé qu'il n'y a pas de variable avec une bonne corrélation avec la variable prédite. Comment est-ce
Plus une question générale. J'utilise un SVM rbf pour la modélisation prédictive. Je pense que mon programme actuel a vraiment besoin d'être accéléré. J'utilise scikit learn avec une recherche de grille grossière à fine + validation croisée. Chaque exécution de SVM prend environ une minute, mais...
Je forme un classificateur LDA multi-classe avec 8 classes de données. Pendant la formation, je reçois un avertissement de: " Les variables sont colinéaires " Je reçois une formation précision d' de plus de 90% . J'utilise la bibliothèque scikits-learn dans Python pour former et tester les données...
Quelqu'un peut-il résumer pour moi avec des exemples possibles, dans quelles situations l'augmentation des données de formation améliore le système global? Quand détectons-nous que l'ajout de données d'entraînement pourrait éventuellement sur-ajuster les données et ne pas donner de bonnes...
J'ai affaire à un problème de classification binaire supervisé. Je voudrais utiliser le package GBM pour classer les individus comme non infectés / infectés. J'ai 15 fois plus de personnes non infectées que de personnes infectées. Je me demandais si les modèles GBM souffraient en cas de tailles de...
J'ai un ensemble de données de 120 échantillons dans un paramètre de validation croisée 10 fois. Actuellement, je prends les données d'entraînement du premier holdout et fais une validation croisée 5 fois dessus pour choisir les valeurs de gamma et C par recherche dans la grille. J'utilise SVM avec...
J'ai un ensemble de données de test très déséquilibré. L'ensemble positif se compose de 100 cas tandis que l'ensemble négatif se compose de 1500 cas. Du côté de la formation, j'ai un plus grand bassin de candidats: l'ensemble de formation positive a 1 200 cas et l'ensemble de formation négative a...
Je comprends que les SVM à une classe (OSVM) ont été proposés en l'absence de données négatives et qu'ils cherchent à trouver des limites de décision qui séparent un ensemble positif et un point d'ancrage négatif, par exemple l'origine. Un travail en 2011 propose des SVM exemplaires (ESVM) qui...
La machine de boosting de gradient de Friedman peut -elle obtenir de meilleures performances que la forêt aléatoire de Breiman ? Si oui, dans quelles conditions ou quel type de jeu de données peut-il améliorer
Je lis actuellement l'article Efficient Online and Batch Learning using Forward-Backward Splitting de John Duchi et Yoram Singer. Je suis très confus quant à l'utilisation des termes «en ligne» et «lot». Je pensais que «en ligne» signifie que nous mettons à jour les paramètres de poids après avoir...
J'ai quelques doutes quant à la mesure de performance à utiliser, l'aire sous la courbe ROC (TPR en fonction de FPR) ou l'aire sous la courbe de précision-rappel (précision en fonction du rappel). Mes données sont déséquilibrées, c'est-à-dire que le nombre d'instances négatives est beaucoup plus...
Nous étudions le machine learning via Machine Learning: A Probabilistic Perspective (Kevin Murphy). Bien que le texte explique les fondements théoriques de chaque algorithme, il dit rarement dans quel cas quel algorithme est le meilleur et quand il le fait, il ne dit pas comment dire dans quel cas...
Lors de l'apprentissage du réseau neuronal convolutionnel, j'ai des questions concernant la figure suivante. 1) C1 dans la couche 1 a 6 cartes de caractéristiques, cela signifie-t-il qu'il y a six noyaux convolutionnels? Chaque noyau convolutionnel est utilisé pour générer une carte d'entités basée...