Questions marquées «cart»

Après avoir effectué l'analyse des composants principaux (PCA), je souhaite projeter un nouveau vecteur sur l'espace PCA (c'est-à-dire trouver ses coordonnées dans le système de coordonnées PCA). J'ai calculé PCA en langage R en utilisant prcomp. Maintenant, je devrais pouvoir multiplier mon...

Quelles sont les méthodes utilisées par les algorithmes d'apprentissage de l'arbre de décision pour gérer les valeurs manquantes. Remplissent-ils simplement l'emplacement en utilisant une valeur appelée manquante?

Je ne suis pas un expert de la forêt aléatoire, mais je comprends clairement que le problème clé avec la forêt aléatoire est la génération d'arbres (aléatoire). Pouvez-vous m'expliquer comment les arbres sont générés? (c.-à-d. quelle est la distribution utilisée pour la génération d'arbres?) Merci...

J'ai un ensemble de données composé de 5 fonctionnalités: A, B, C, D, E. Ce sont toutes des valeurs numériques. Au lieu de faire un clustering basé sur la densité, ce que je veux faire, c'est grouper les données d'une manière d'arbre de décision. L'approche que je veux dire est quelque chose comme...

Quelle est la définition de "l'espace d'entité"? Par exemple, lors de la lecture sur les SVM, j'ai lu sur le "mappage vers l'espace des fonctionnalités". En lisant à propos de CART, j'ai lu sur "le partitionnement pour l'espace de fonctionnalité". Je comprends ce qui se passe, en particulier pour...

Le moignon de décision est un arbre de décision avec une seule division. Il peut également être écrit comme une fonction par morceaux. Par exemple, supposons que xxx est un vecteur, et x1x1x_1 est le premier composant de , dans le cadre de la régression, un moignon de décision peut êtrexxx...

Les forêts aléatoires sont utilisées pour la régression. Cependant, d'après ce que je comprends, ils attribuent une valeur cible moyenne à chaque feuille. Puisqu'il n'y a que des feuilles limitées dans chaque arbre, il n'y a que des valeurs spécifiques que la cible peut atteindre à partir de notre...

Je recherche des articles ou des textes qui comparent et discutent (empiriquement ou théoriquement): Les algorithmes de boosting et d' arbres de décision tels que Random Forests ou AdaBoost et GentleBoost ont été appliqués aux arbres de décision. avec Méthodes d'apprentissage en profondeur telles...

Il existe de nombreux articles de blog, vidéos YouTube, etc. sur les idées d' ensachage ou de renforcement des arbres. Ma compréhension générale est que le pseudo-code pour chacun est: Ensachage: Prélever N échantillons aléatoires de x% des échantillons et y% des fonctionnalités Ajustez votre...

Quelle est la dimension VC d'un arbre de décision avec k divisions en deux dimensions? Disons que le modèle est CART et que les seules divisions autorisées sont parallèles aux axes. Donc, pour une division, nous pouvons commander 3 points dans un triangle , puis pour tout étiquetage des points,...

Les forêts aléatoires (RF) sont une méthode compétitive de modélisation / extraction de données. Un modèle RF a une sortie - la variable sortie / prédiction. L'approche naïve de la modélisation de plusieurs sorties avec des RF serait de construire une RF pour chaque variable de sortie. Nous avons...

Dans la routine rpart () pour créer des modèles CART, vous spécifiez le paramètre de complexité auquel vous souhaitez tailler votre arbre. J'ai vu deux recommandations différentes pour choisir le paramètre de complexité: Choisissez le paramètre de complexité associé à l'erreur de validation croisée...

Cela fait un moment que je n'ai pas regardé le partitionnement des arbres. La dernière fois que j'ai fait ce genre de choses, j'aime faire la fête en R (créé par Hothorn). L'idée de l'inférence conditionnelle via l'échantillonnage est logique pour moi. Mais rpart avait également un attrait. Dans...

Je travaille sur la mesure d'importance de la fonctionnalité Gini pour la forêt aléatoire. Par conséquent, je dois calculer la diminution de Gini de l'impureté du nœud. Voici la façon dont je le fais, ce qui conduit à un conflit avec la définition, suggérant que je dois me tromper quelque part ......

J'écris actuellement une implémentation de Random Forests mais je crois que la question est spécifique aux arbres de décision (indépendants des RF). Le contexte est donc que je crée un nœud dans un arbre de décision et que les variables de prédiction et de cible sont continues. Le nœud a un seuil...

Des questions Cela dépend-il si l'arbre est peu profond ou profond? Ou peut-on dire cela indépendamment de la profondeur / des niveaux de l'arbre? Pourquoi le biais est-il faible et la variance élevée? Veuillez expliquer intuitivement et mathématiquement

Supposons que nous ayons deux arbres de régression (arbre A et B) que l' arbre d' entrée de carte de sortie y ∈ R . Soit y = f A ( x ) de l' arbre A et f B ( x ) de l' arbre B. Chaque arbre utilise fentes binaire, avec des hyperplans que les fonctions de séparation.x ∈ RréX∈Rréx \in \mathbb{R}^dy^∈...

Quelqu'un peut-il aider à expliquer certaines des mathématiques derrière la classification dans CART? Je cherche à comprendre comment deux étapes principales se produisent. Par exemple, j'ai formé un classificateur CART sur un ensemble de données et utilisé un ensemble de données de test pour...

Un collègue de mon bureau m'a dit aujourd'hui "Les modèles d'arbres ne sont pas bons parce qu'ils sont pris par des observations extrêmes". Une recherche ici a abouti à ce fil qui soutient essentiellement la revendication. Ce qui m'amène à la question - dans quelle situation un modèle CART peut-il...

Étant donné que l'algorithme d'arbre de décision est divisé sur un attribut à chaque étape, la profondeur maximale d'un arbre de décision est égale au nombre d'attributs des données. Est-ce