Limites inférieures pour l'apprentissage dans la requête d'appartenance et le modèle de contre-exemple

11

Dana Angluin ( 1987 ; pdf ) définit un modèle d'apprentissage avec des requêtes d'appartenance et des requêtes théoriques (contre-exemples d'une fonction proposée). Elle montre qu'un langage régulier qui est représenté par un DFA minimal de états peut être appris en temps polynomial (où les fonctions proposées sont des DFA) avecn requêtes d'appartenance et au plus n - 1 requêtes théoriques ( m est la taille du plus grand contre-exemple fourni par le tuteur). Malheureusement, elle ne discute pas des limites inférieures.O(mn2)n1m

Nous pouvons généraliser légèrement le modèle en supposant un tuteur magique qui peut vérifier l'égalité entre les fonctions arbitraires et fournir des contre-exemples s'ils sont différents. Ensuite, nous pouvons demander à quel point il est difficile d'apprendre des classes plus grandes que les langues normales. Je m'intéresse à cette généralisation et à la restriction d'origine aux langues régulières.

Existe-t-il des limites inférieures connues sur le nombre de requêtes dans le modèle d'appartenance et de contre-exemple?

Je m'intéresse aux limites inférieures du nombre de requêtes d'adhésion, de requêtes théoriques ou de compromis entre les deux. Je m'intéresse aux bornes inférieures pour n'importe quelle classe de fonctions, même pour les classes plus compliquées que les langages ordinaires.

S'il n'y a pas de bornes inférieures: existe-t-il des bariers connus pour prouver les limites inférieures des requêtes dans ce modèle?


Questions connexes

Y a-t-il des améliorations sur l'algorithme de Dana Angluin pour l'apprentissage des ensembles réguliers

Artem Kaznatcheev
la source

Réponses:

11

NPcoNP

O(n)O(n2+nlogm)

La théorie de l'information est un moyen facile d'obtenir des limites inférieures. Vous pouvez déterminer le nombre de cibles distinctes et le nombre de bits qu'une requête vous donne, etc. Ces limites supérieures se rapprochent mais ne sont pas là. Il y a aussi des questions auxquelles il faut penser quant à la façon dont les «contre-exemples» arrivent à l'apprenant. Un contre-exemple bien choisi peut donner beaucoup d'informations.

Mise à jour de la discussion ci - dessus : Angluin et Dohrn abordent la question de l'apprentissage avec des contre-exemples aléatoires dans un article récent .

Lev Reyzin
la source
Merci d'avoir répondu! Cela vous dérange si je donne votre réponse à ma question liée sur la question liée (avec des liens ici)? Ou envisagez-vous de créer un compte CS.SE? Je suis totalement d'accord avec le paragraphe 3, je m'amusais à exiger que le tuteur donne un contre-exemple minimal et l'apprentissage semble devenir beaucoup plus facile.
Artem Kaznatcheev
Aucun problème! Et n'hésitez pas à poster à la question CS.SE liée.
Lev Reyzin
J'ai lu la partie pertinente de la thèse de Schapire (section 5.4.5) et j'ai résumé l'amélioration , j'espère avoir compris l'essentiel. J'examinerai de plus près le document sur les limites inférieures que vous citez plus tard dans la semaine: D.
Artem Kaznatcheev
Cool. Je voterais favorablement si j'avais un compte CS.SE :)
Lev Reyzin