Quelle est la dimension VC d'un arbre de décision avec k divisions en deux dimensions? Disons que le modèle est CART et que les seules divisions autorisées sont parallèles aux axes. Donc, pour une division, nous pouvons commander 3 points dans un triangle , puis pour tout étiquetage des points,...
J'ai rencontré quelques moyens de base pour mesurer la complexité des réseaux de neurones: Naïf et informel: comptez le nombre de neurones, de neurones cachés, de couches ou de couches cachées Dimension VC (Eduardo D. Sontag [1998] "Dimension VC des réseaux de neurones" [ pdf ].) Une mesure de la...
Dans l'apprentissage automatique de base, nous apprenons les «règles de base» suivantes: a) la taille de vos données doit être au moins 10 fois supérieure à la dimension VC de votre ensemble d'hypothèses. b) un réseau neuronal avec N connexions a une dimension VC d'environ N. Ainsi, lorsqu'un...
Dans la série de conférences Learning from Data , le professeur mentionne que la dimension VC mesure la complexité du modèle sur le nombre de points qu'un modèle donné peut briser. Donc, cela fonctionne parfaitement pour les modèles de classification où nous pourrions dire sur N points si le...
Wikipédia dit que: La dimension VC est la cardinalité du plus grand ensemble de points qu'un algorithme peut briser. Par exemple, un classificateur linéaire a une cardinalité n + 1. Ma question est pourquoi nous en soucions-nous? La plupart des jeux de données sur lesquels vous effectuez une...
Si j'ai une topologie fixe non récurrente (DAG) (ensemble fixe de nœuds et de bords, mais l'algorithme d'apprentissage peut faire varier le poids sur les bords) de neurones sigmoïdes avec neurones d'entrée qui ne peuvent prendre que des chaînes dans en entrée et conduit à une sortie (qui génère une...
Je m'intéresse aux résultats théoriques pour la capacité de généralisation des machines à vecteurs de support, par exemple les limites sur la probabilité d'erreur de classification et sur la dimension Vapnik-Chervonenkis (VC) de ces machines. Cependant, en lisant la littérature, j'ai eu...
Quelle est la dimension VC de l'algorithme k le plus proche voisin si k est égal au nombre de points d'apprentissage utilisés? Contexte: Cette question a été posée dans un cours que j'ai suivi et la réponse donnée était 0. Je ne comprends cependant pas pourquoi c'est le cas. Mon intuition est que...
Le livre "Introduction to Machine learning" d'Ethem Alpaydın déclare que la dimension VC d'un rectangle aligné sur l'axe est 4. Mais comment un rectangle peut-il briser un ensemble de quatre points colinéaires avec des points alternatifs positifs et négatifs ?? Quelqu'un peut-il expliquer et...