L'analyse discriminante linéaire (LDA) est une méthode de réduction et de classification de dimensionnalité. Il trouve le sous-espace de faible dimension avec la séparation de classe la plus forte et l'utilise pour effectuer la classification. Utilisez également cette balise pour la DA quadratique (QDA).
J'essaie de comprendre la différence statistique entre l'analyse discriminante linéaire et la régression logistique . Ai-je bien compris que, pour un problème de classification à deux classes , LDA prédit deux fonctions de densité normales (une pour chaque classe) qui crée une limite linéaire à...
Quelqu'un peut-il expliquer les différences et donner des exemples spécifiques sur la façon d'utiliser ces trois analyses? LDA - Analyse discriminante linéaire FDA - Analyse discriminante de Fisher QDA - Analyse quadratique discriminante J'ai cherché partout, mais je n'ai pas trouvé de vrais...
J'utilisais l'analyse linéaire discriminante (LDA) de la scikit-learnbibliothèque d'apprentissage automatique (Python) pour réduire la dimensionnalité et j'étais un peu curieux des résultats. Je me demande maintenant ce que fait la LDA scikit-learnpour que les résultats soient différents, par...
Quel est le lien entre PCA, LDA, CCA et PLS? Ils semblent tous "spectraux" et algébriques linéaires et très bien compris (disons plus de 50 ans de théorie construits autour d'eux). Ils sont utilisés pour des choses très différentes (PCA pour la réduction de la dimensionnalité, LDA pour la...
Supposons que j'ai un ensemble de données pour une tâche de classification statistique supervisée, par exemple via un classifieur Bayes. Cet ensemble de données se compose de 20 entités et je veux le résumer à 2 entités via des techniques de réduction de dimensionnalité telles que l'analyse en...
Existe-t-il une relation entre la régression et l'analyse discriminante linéaire (LDA)? Quelles sont leurs similitudes et leurs différences? Cela fait-il une différence s'il y a deux classes ou plus de deux
Dans cet article , l'auteur relie l'analyse discriminante linéaire (LDA) à l'analyse en composantes principales (ACP). Avec mes connaissances limitées, je ne suis pas en mesure de comprendre comment LDA peut être quelque peu similaire à PCA. J'ai toujours pensé que LDA était une forme d'algorithme...
J'ai vu un tracé LDA (analyse discriminante linéaire) avec les limites de décision de The Elements of Statistical Learning : Je comprends que les données sont projetées sur un sous-espace de dimension inférieure. Cependant, je voudrais savoir comment nous obtenons les limites de décision dans la...
Il y a des mots de "Les éléments de l'apprentissage statistique" à la page 91: Les K centroïdes dans l'espace d'entrée de dimension p s'étendent sur la plupart des sous-espaces dimensionnels de K-1, et si p est beaucoup plus grand que K, ce sera une baisse considérable de dimension. J'ai deux...
À plusieurs endroits, j'ai vu une affirmation selon laquelle la MANOVA est comme l'ANOVA plus l'analyse discriminante linéaire (LDA), mais elle a toujours été faite en agitant la main. Je voudrais savoir ce que cela signifie exactement . J'ai trouvé divers manuels décrivant tous les détails des...
Dans R, j'utilise la ldafonction de la bibliothèque MASSpour faire la classification. Si je comprends bien LDA, l'entrée verra attribuer l'étiquette , ce qui maximisera p (y | x) , non?XXxyyyp ( y| x)p(y|X)p(y|x) Mais quand le modèle, dans lequel y = Direction, je ne comprends pas très bien la...
Je forme un classificateur LDA multi-classe avec 8 classes de données. Pendant la formation, je reçois un avertissement de: " Les variables sont colinéaires " Je reçois une formation précision d' de plus de 90% . J'utilise la bibliothèque scikits-learn dans Python pour former et tester les données...
J'ai trouvé des pros de l'analyse discriminante et j'ai des questions à leur sujet. Donc: Lorsque les classes sont bien séparées, les estimations des paramètres de régression logistique sont étonnamment instables. Les coefficients peuvent aller à l'infini. LDA ne souffre pas de ce problème. Si le...
Dans l'analyse discriminante, la variable dépendante est catégorielle, mais puis-je utiliser une variable catégorielle (par exemple, le statut résidentiel: rural, urbain) avec une autre variable continue comme variable indépendante dans l'analyse discriminante
Je jouais avec les méthodes PCA et LDA et je suis coincé à un moment donné, j'ai le sentiment que c'est si simple que je ne peux pas le voir. Les matrices de dispersion -classe ( ) et -classe ( ) sont définies comme suit:S BSWSWS_WSBSBS_B SW=∑i=1C∑t=1N(xit−μi)(xit−μi)TSW=∑i=1C∑t=1N(xti−μi)(xti−μi)T...
Les modèles d'analyse discriminants gaussiens apprennent puis appliquent la règle de Bayes pour évaluer P ( y | x ) = P ( x | y ) P p r i o r ( y )P( x | y)P(X|y)P(x|y)Ce sont donc des modèles génératifs. Pourquoi alors cela s'appelle-t-il analyse discriminante? Si c'est parce que nous dérivons...
Apparemment, l'analyse de Fisher vise à maximiser simultanément la séparation entre les classes, tout en minimisant la dispersion à l'intérieur des classes. Une mesure utile du pouvoir de discrimination d'une variable est donc donnée par la quantité diagonale: .Bii/WiiBii/WiiB_{ii}/W_{ii}...
J'ai fréquemment utilisé pour diagnostiquer mes données multivariées à l'aide de l'ACP (données omiques avec des centaines de milliers de variables et des dizaines ou des centaines d'échantillons). Les données proviennent souvent d'expériences avec plusieurs variables indépendantes catégorielles...
J'ai un ensemble de données composé d'échantillons étiquetés 15K (de 10 groupes). Je souhaite appliquer une réduction de dimensionnalité en 2 dimensions, qui tiendrait compte de la connaissance des labels. Lorsque j'utilise des techniques de réduction de dimensionnalité "standard" non supervisées...
Quelle est la relation entre l'analyse discriminante linéaire et la règle de Bayes? Je comprends que la LDA est utilisée dans la classification en essayant de minimiser le rapport entre la variance intra-groupe et entre la variance entre groupes, mais je ne sais pas comment la règle de Bayes...