Apprentissage automatique et théorie de l'apprentissage: apprentissage PAC, théorie de l'apprentissage algorithmique et aspects informatiques de l'inférence bayésienne et des modèles graphiques.
Je pense au problème suivant: je veux trouver une expression régulière qui correspond à un ensemble particulier de chaînes (par exemple, des adresses électroniques valides) et ne correspond à aucune autre (adresses électroniques non valides). Supposons que par expression régulière, nous entendons...
Nous savons que (voir, par exemple, les théorèmes 1 et 3 de [1]), en gros, dans des conditions appropriées, des fonctions qui peuvent être efficacement calculées par la machine de Turing en temps polynomial ("efficacement calculable") peuvent être exprimées par des réseaux de neurones polynomiaux...
Une machine PHPHPH accès oracle à une fonction booléenne aléatoire f:{0,1}n→{−1,1}f:{0,1}n→{−1,1}f:\{0,1\}^n \to \{ -1,1 \} , et deux spectres de Fourier ggg et hhh . Le spectre de Fourier d'une fonction fff est défini comme F:{0,1}n→RF:{0,1}n→RF:\{0,1\}^n \to R :...
Le rang de signe d'une matrice A avec + 1, -1 entrées est le plus petit rang (sur les réels) d'une matrice B qui a le même motif de signe que A (c'est-à-dire pour tous ). Cette notion est importante dans la complexité de la communication et la théorie de l'apprentissage.UNEje jBje j>...
Il existe une grande littérature sur les «tests de propriétés» - le problème de faire un petit nombre de requêtes de boîte noire à une fonction pour distinguer deux cas:f:{0,1}n→Rf:{0,1}n→Rf\colon\{0,1\}^n \to R fff is a member of some class of functions CC\mathcal{C} fff is εε\varepsilon-far from...
L '"optimisation convexe en ligne" de Zinkevich ( http://www.cs.cmu.edu/~maz/publications/ICML03.pdf ) généralise les algorithmes d'apprentissage de la "minimisation des regrets" d'un paramètre linéaire à un paramètre convexe et donne un bon "regret externe" . Existe-t-il une généralisation...
Voici une abstraction d'un problème d'apprentissage en ligne / bandit sur lequel j'ai travaillé l'été. Je n'ai jamais vu un problème comme celui-ci auparavant, et cela semble assez intéressant. Si vous connaissez un travail connexe, j'apprécierais les références. Le problème Le réglage est celui...
J'essaie de comprendre la complexité des fonctions exprimables via les portes de seuil et cela m'a conduit à . En particulier, je suis intéressé par ce que l'on sait actuellement sur l'apprentissage dans , car je ne suis pas un expert dans le domaine.T C0TC0\mathsf{TC}^0T C0TC0\mathsf{TC}^0 Ce que...
Contexte Les fonctions dans sont PAC apprenables en temps quasi-polynomial avec un algorithme classique qui nécessite des requêtes choisies au hasard pour apprendre un circuit de profondeur d [1]. S'il n'y a pas d' algorithme de factorisation alors c'est optimal [2]. Bien sûr, sur un ordinateur...
Considérons un poset fini sur éléments, et un prédicat monotone inconnu sur (c'est-à-dire pour tout , , si et alors ) . Je peux évaluer en fournissant un nœud et en déterminant si est vrai ou non. Mon objectif est de déterminer exactement l'ensemble des nœuds tel que valide, en utilisant aussi peu...
Edit: Comme je n'ai reçu aucune réponse / commentaire en une semaine, je voudrais ajouter que je suis heureux d'entendre quoi que ce soit sur le problème. Je ne travaille pas dans la région, donc même si c'est une simple observation, je ne le sais peut-être pas. Même un commentaire comme "je...
Quelle est la complexité de requête la plus connue de l'algorithme d'apprentissage Goldreich-Levin? Les notes de cours du blog de Luca Trevisan , Lemma 3, l'indiquent comme . Est-ce le plus connu en termes de dépendance à n ? Je serai particulièrement reconnaissant pour une référence à une source...
J'ai assigné à mes élèves le problème de trouver un triangle cohérent avec une collection de points dans , étiqueté avec . (Un triangle est cohérent avec l'échantillon étiqueté si contient tous les points positifs et aucun des points négatifs; par hypothèse, l'échantillon admet au moins 1 triangle...
J'ai posé cette question dans des questions- réponses validées de manière croisée, mais il semble qu'elle soit beaucoup plus liée à CS qu'aux statistiques. Pouvez-vous me donner des exemples d'algorithmes d'apprentissage automatique qui apprennent des propriétés statistiques de l'ensemble de...
Contexte: En apprentissage automatique, nous travaillons souvent avec des modèles graphiques pour représenter des fonctions de densité de probabilité dimensionnelle élevée. Si nous rejetons la contrainte qu'une densité intègre (somme) à 1, nous obtenons une fonction d'énergie structurée...
J'ai un ensemble de données de milliers de points et un moyen de mesurer la distance entre deux points, mais les points de données n'ont pas de dimensionnalité. je veux un algorithme pour trouver des centres de cluster dans cet ensemble de données. j'imagine que parce que les données n'ont pas de...
Les automates à états finis résiduels (RFSA, définis dans [DLT02]) sont des NFA qui ont de belles fonctionnalités en commun avec les DFA. En particulier, il y a toujours une RFSA de taille minimale canonique pour chaque langue régulière, et la langue reconnue par chaque état dans la RFSA est un...
Que sait-on du problème suivant? Étant donné une collection de fonctions f : { 0 , 1 } n → { 0 , 1 } , trouver une plus grande sous-collection S ⊆ C soumise à la contrainte VC-Dimension ( S ) ≤ k pour un entier k .CCCF: { 0 , 1 }n→ { 0 , 1 }f:{0,1}n→{0,1}f:\{0,1\}^n\rightarrow\{0,1\}S⊆ CS⊆CS...
Il est connu que pour l'apprentissage par PAC, il existe des classes de concepts naturels (par exemple des sous-ensembles de listes de décision) pour lesquelles il existe des écarts polynomiaux entre la complexité de l'échantillon nécessaire à l'apprentissage théorique de l'information par un...
Inspiré par cette question , je suis curieux de savoir ce qui suit: Quelle est la pire des situations pour vérifier si un DFA donné accepte le même langage qu'une expression régulière donnée? Est-ce connu? L'espoir serait que ce problème soit en P - qu'il existe un algorithme polynomial dans la...