J'ai posé cette question dans des questions- réponses validées de manière croisée, mais il semble qu'elle soit beaucoup plus liée à CS qu'aux statistiques. Pouvez-vous me donner des exemples d'algorithmes d'apprentissage automatique qui apprennent des propriétés statistiques de l'ensemble de...
Les algorithmes génétiques évoluent en moins de générations avec une population plus importante, mais prennent également plus de temps pour calculer une génération. Existe-t-il des lignes directrices pour équilibrer ces deux facteurs, afin d'arriver à une solution viable le plus rapidement...
Il est connu que pour l'apprentissage par PAC, il existe des classes de concepts naturels (par exemple des sous-ensembles de listes de décision) pour lesquelles il existe des écarts polynomiaux entre la complexité de l'échantillon nécessaire à l'apprentissage théorique de l'information par un...
Le lemme de Johnson-Lindenstrauss permet de représenter des points dans un espace de grande dimension en points de dimension inférieure. Lors de la recherche d'espaces de dimension inférieure de meilleur ajustement, une technique standard consiste à trouver la décomposition des valeurs singulières,...
J'ai un ensemble de données de milliers de points et un moyen de mesurer la distance entre deux points, mais les points de données n'ont pas de dimensionnalité. je veux un algorithme pour trouver des centres de cluster dans cet ensemble de données. j'imagine que parce que les données n'ont pas de...
Quelques antécédents: Je suis intéressé à trouver des limites inférieures (ou des résultats de dureté) "moins connues" pour le problème d'apprentissage avec des erreurs (LWE), et des généralisations de celui-ci comme l'apprentissage avec des erreurs sur des anneaux. Pour des définitions...
Sur cs.stackexchange, j'ai posé des questions sur la bibliothèque d' algebird scala sur github, spéculant sur les raisons pour lesquelles ils pourraient avoir besoin d'un paquet d'algèbre abstrait. La page github contient quelques indices: Implémentations de Monoids pour des algorithmes...
Voici un problème avec une saveur similaire à l'apprentissage des juntes: Entrée: Une fonction F: { 0 , 1 }n→ { - 1 , 1 }f:{0,1}n→{−1,1}f: \{0,1\}^n \rightarrow \{-1,1\} , représentée par un oracle d'appartenance, c'est-à-dire un oracle qui a donné XXx , renvoie F( x )F(X)f(x) . Objectif: trouver...
Il est bien connu que pour une classe de concept de dimension VC , il suffit d'obtenir exemples étiquetés pour PAC learn . Il n'est pas clair pour moi si l'algorithme d'apprentissage PAC (qui utilise ces nombreux échantillons) est approprié ou inapproprié? Dans les manuels de Kearns et Vazirani...
Soit une distribution sur des paires chaîne de bits / étiquette et soit une collection de fonctions booléennes . Pour chaque fonction , soit: et soit: OPT (C, D) = \ min_ {f \ in C} \ err (f, D) Disons qu'un algorithme A apprend agnostiquement C sur n'importe quelle distribution, si pour n'importe...
Dana Angluin ( 1987 ; pdf ) définit un modèle d'apprentissage avec des requêtes d'appartenance et des requêtes théoriques (contre-exemples d'une fonction proposée). Elle montre qu'un langage régulier qui est représenté par un DFA minimal de états peut être appris en temps polynomial (où les...
Je connais l'algorithme de descente de gradient qui peut trouver le minimum local (maximum) d'une fonction donnée. Y a-t-il une modification de la descente du gradient qui permet de trouver le minimum absolu (maximum), où la fonction a plusieurs extrema locaux? Existe-t-il des techniques générales,...
Il est bien connu que pour l'apprentissage PAC classique, des exemples de sont nécessaires afin d'obtenir une limite d'erreur de ε whp, où d est la dimension VC de la classe de concept.Ω ( d/ ε)Ω(d/ε)\Omega(d/\varepsilon)εε\varepsilonddd Est-il connu que des exemples de sont nécessaires dans le cas...
Quels classificateurs d'apprentissage automatique sont les plus parallélisables? Si vous aviez un problème de classification difficile, un temps limité, mais un réseau local décent d'ordinateurs avec lesquels travailler, quels classificateurs essayeriez-vous? D'un côté, il me semble que certains...
Je suis assez familier avec la théorie derrière VC-Dimension, mais je regarde maintenant les progrès récents (10 dernières années) dans la théorie de l'apprentissage statistique: moyennes Rademacher (locales), Lemme de classe finie de Massart, Covering Numbers, Chaining, Dudley's Théorème,...
Récemment, j'ai lu un nombre décent d'articles CoLT. Bien que je ne lutte pas avec les articles individuels (du moins pas plus que d'habitude avec les autres articles théoriques), je ne pense pas avoir une bonne compréhension du domaine dans son ensemble. Existe-t-il un texte standard, des sondages...
Plus précisément, je demande des ressources pour en savoir plus sur les systèmes d'apprentissage automatique qui peuvent mettre à jour leurs réseaux de croyances respectifs (ou équivalent) pendant le fonctionnement. J'en ai même rencontré quelques-uns, même si je n'ai pas réussi à les mettre en...
Background––––––––––––––Background_\underline{\bf Background} En 2005, Regev [1] a introduit le problème d'apprentissage avec erreurs (LWE), une généralisation du problème de parité d'apprentissage avec erreur. L'hypothèse de la dureté de ce problème pour certains choix de paramètres sous-tend...
Supposons que j'ai points dans R d . Ceux-ci induisent un diagramme de Voronoi. Si j'attribue à chacun des k points une étiquette ± , ceux-ci induisent une fonction binaire sur R d . Question: quelle est la dimension VC de toutes ces fonctions binaires possibles induites par certains k points et un...
Je recherche la dimension VC du système d'ensemble suivant. Univers tel que . Dans le système d'ensemble chaque ensemble correspond à une sphère dans sorte que l'ensemble contient un élément dans si et seulement si la sphère correspondante le contient dans