Pouvez - vous ajouter de nouvelles déclarations (comme print
, raise
, with
) à la syntaxe de Python?
Dites, pour permettre ...
mystatement "Something"
Ou,
new_if True:
print "example"
Pas tellement si vous le devriez , mais plutôt si c'est possible (à court de modifier le code des interpréteurs python)
Réponses:
Vous pouvez trouver cela utile - Python internes: ajout d'une nouvelle instruction à Python , citée ici:
Cet article tente de mieux comprendre le fonctionnement du front-end de Python. La simple lecture de la documentation et du code source peut être un peu ennuyeuse, alors je prends une approche pratique ici: je vais ajouter une
until
déclaration à Python.Tout le codage de cet article a été effectué sur la branche de pointe Py3k dans le miroir du référentiel Python Mercurial .
La
until
déclarationCertains langages, comme Ruby, ont une
until
instruction, qui est le complément dewhile
(until num == 0
équivaut àwhile num != 0
). En Ruby, je peux écrire:Et il imprimera:
Donc, je veux ajouter une capacité similaire à Python. Autrement dit, être capable d'écrire:
Une digression linguistique
Cet article n'essaie pas de suggérer l'ajout d'un
until
instruction à Python. Bien que je pense qu'une telle déclaration clarifierait le code et que cet article montre à quel point il est facile à ajouter, je respecte complètement la philosophie du minimalisme de Python. Tout ce que j'essaie de faire ici, en réalité, c'est d'avoir un aperçu du fonctionnement interne de Python.Modifier la grammaire
Python utilise un générateur d'analyseur personnalisé nommé
pgen
. Il s'agit d'un analyseur LL (1) qui convertit le code source Python en un arbre d'analyse. L'entrée du générateur d'analyseur est le fichierGrammar/Grammar
[1] . Il s'agit d'un simple fichier texte qui spécifie la grammaire de Python.[1] : À partir de là, les références aux fichiers dans la source Python sont données relativement à la racine de l'arborescence des sources, qui est le répertoire dans lequel vous exécutez configure et make pour construire Python.
Deux modifications doivent être apportées au fichier de grammaire. La première consiste à ajouter une définition pour l'
until
instruction. J'ai trouvé où l'while
instruction a été définie (while_stmt
), et ajoutéuntil_stmt
ci-dessous [2] :[2] : Cela démontre une technique courante que j'utilise lors de la modification du code source que je ne connais pas: le travail par similarité . Ce principe ne résoudra pas tous vos problèmes, mais il peut certainement faciliter le processus. Étant donné que tout ce qui doit être fait
while
doit également l'êtreuntil
, cela constitue une très bonne ligne directrice.Notez que j'ai décidé d'exclure la
else
clause de ma définition deuntil
, juste pour la rendre un peu différente (et parce que franchement je n'aime pas leelse
clause de boucles et ne pense pas qu'elle s'accorde bien avec le Zen de Python).La deuxième modification consiste à modifier la règle pour
compound_stmt
inclureuntil_stmt
, comme vous pouvez le voir dans l'extrait de code ci-dessus. C'est juste aprèswhile_stmt
, encore.Lorsque vous exécutez
make
après la modificationGrammar/Grammar
, notez que lepgen
programme est exécuté pour regénérerInclude/graminit.h
etPython/graminit.c
, puis plusieurs fichiers sont recompilés.Modifier le code de génération AST
Une fois que l'analyseur Python a créé un arbre d'analyse, cet arbre est converti en AST, car les AST sont beaucoup plus simples à utiliser dans les étapes suivantes du processus de compilation.
Nous allons donc visiter
Parser/Python.asdl
ce qui définit la structure des AST de Python et ajouter un nœud AST pour notre nouvelleuntil
déclaration, à nouveau juste en dessous dewhile
:Si vous exécutez maintenant
make
, notez qu'avant de compiler un tas de fichiers,Parser/asdl_c.py
est exécuté pour générer du code C à partir du fichier de définition AST. Ceci (commeGrammar/Grammar
) est un autre exemple du code source Python utilisant un mini-langage (en d'autres termes, un DSL) pour simplifier la programmation. Notez également que puisqu'ilParser/asdl_c.py
s'agit d'un script Python, il s'agit d'une sorte de bootstrapping - pour construire Python à partir de zéro, Python doit déjà être disponible.Lors de la
Parser/asdl_c.py
génération du code pour gérer notre nœud AST nouvellement défini (dans les fichiersInclude/Python-ast.h
etPython/Python-ast.c
), nous devons encore écrire le code qui convertit manuellement un nœud d'arbre d'analyse pertinent. Ceci est fait dans le fichierPython/ast.c
. Là, une fonction nomméeast_for_stmt
convertit les nœuds d'arbre d'analyse pour les instructions en nœuds AST. Encore une fois, guidés par notre vieil amiwhile
, nous sautons directement dans le grandswitch
pour gérer les instructions composées et ajoutons une clause pouruntil_stmt
:Maintenant, nous devons mettre en œuvre
ast_for_until_stmt
. C'est ici:Encore une fois, cela a été codé en regardant de près l'équivalent
ast_for_while_stmt
, à la différence queuntil
j'ai décidé de ne pas appuyer l'else
article. Comme prévu, l'AST est créé de manière récursive, en utilisant d'autres fonctions de création AST commeast_for_expr
pour l'expression de condition etast_for_suite
pour le corps de l'until
instruction. Enfin, un nouveau nœud nomméUntil
est renvoyé.Notez que nous accédons au nœud de l'arbre d'analyse en
n
utilisant des macros commeNCH
etCHILD
. Celles-ci méritent d'être comprises - leur code est en placeInclude/node.h
.Digression: composition AST
J'ai choisi de créer un nouveau type d'AST pour l'
until
instruction, mais en fait ce n'est pas nécessaire. J'aurais pu économiser du travail et implémenter la nouvelle fonctionnalité en utilisant la composition des nœuds AST existants, depuis:Est fonctionnellement équivalent à:
Au lieu de créer le
Until
nœud dansast_for_until_stmt
, j'aurais pu créer unNot
nœud avec unWhile
nœud en tant qu'enfant. Étant donné que le compilateur AST sait déjà comment gérer ces nœuds, les étapes suivantes du processus peuvent être ignorées.Compilation des AST en bytecode
L'étape suivante consiste à compiler l'AST en bytecode Python. La compilation a un résultat intermédiaire qui est un CFG (Control Flow Graph), mais comme le même code le gère, je vais ignorer ce détail pour le moment et le laisser pour un autre article.
Le code que nous examinerons ensuite est
Python/compile.c
. En suivant l'exemple dewhile
, nous trouvons la fonctioncompiler_visit_stmt
, qui est responsable de la compilation des instructions en bytecode. Nous ajoutons une clause pourUntil
:Si vous vous demandez ce que
Until_kind
c'est, c'est une constante (en fait une valeur de l'_stmt_kind
énumération) générée automatiquement à partir du fichier de définition AST dansInclude/Python-ast.h
. Quoi qu'il en soit, nous appelonscompiler_until
ce qui, bien sûr, n'existe toujours pas. J'y reviendrai un instant.Si vous êtes curieux comme moi, vous remarquerez que c'est étrange
compiler_visit_stmt
. Aucune partie degrep
l'arborescence source ne révèle où il est appelé. Lorsque c'est le cas, il ne reste qu'une seule option - C macro-fu. En effet, une brève enquête nous conduit à laVISIT
macro définie dansPython/compile.c
:Il est utilisé pour invoquer
compiler_visit_stmt
danscompiler_body
. Mais revenons à nos affaires ...Comme promis, voici
compiler_until
:J'ai une confession à faire: ce code n'a pas été écrit sur la base d'une compréhension approfondie du bytecode Python. Comme le reste de l'article, cela a été fait à l'imitation de la
compiler_while
fonction parentale . En le lisant attentivement, cependant, en gardant à l'esprit que la machine virtuelle Python est basée sur la pile et en jetant un coup d'œil à la documentation dudis
module, qui contient une liste de bytecodes Python avec des descriptions, il est possible de comprendre ce qui se passe.Ça y est, nous avons fini ... N'est-ce pas?
Après avoir effectué toutes les modifications et exécuté
make
, nous pouvons exécuter le Python nouvellement compilé et essayer notre nouvelleuntil
instruction:Voila, ça marche! Voyons le bytecode créé pour la nouvelle instruction en utilisant le
dis
module comme suit:Voici le résultat:
L'opération la plus intéressante est le numéro 12: si la condition est vraie, on saute après la boucle. C'est une sémantique correcte pour
until
. Si le saut n'est pas exécuté, le corps de la boucle continue de fonctionner jusqu'à ce qu'il revienne à la condition de l'opération 35.Me sentant bien dans mon changement, j'ai ensuite essayé d'exécuter la fonction (exécution
myfoo(3)
) au lieu d'afficher son bytecode. Le résultat était loin d'être encourageant:Whoa ... ça ne peut pas être bon. Alors qu'est-ce qui ne va pas?
Le cas de la table des symboles manquante
L'une des étapes que le compilateur Python effectue lors de la compilation de l'AST est de créer une table de symboles pour le code qu'il compile. L'appel à
PySymtable_Build
inPyAST_Compile
appelle le module de table de symboles (Python/symtable.c
), qui parcourt l'AST d'une manière similaire aux fonctions de génération de code. Le fait d'avoir une table de symboles pour chaque étendue aide le compilateur à trouver certaines informations clés, telles que les variables globales et locales à une étendue.Pour résoudre le problème, nous devons modifier la
symtable_visit_stmt
fonction dansPython/symtable.c
, en ajoutant du code pour la gestion desuntil
instructions, après le code similaire pour leswhile
instructions [3] :[3] : Au fait, sans ce code, il y a un avertissement du compilateur pour
Python/symtable.c
. Le compilateur remarque que laUntil_kind
valeur d'énumération n'est pas gérée dans l'instruction switch desymtable_visit_stmt
et se plaint. Il est toujours important de vérifier les avertissements du compilateur!Et maintenant, nous avons vraiment terminé. La compilation de la source après cette modification rend l'exécution du
myfoo(3)
travail comme prévu.Conclusion
Dans cet article, j'ai montré comment ajouter une nouvelle instruction à Python. Bien que nécessitant un peu de bricolage dans le code du compilateur Python, le changement n'a pas été difficile à implémenter, car j'ai utilisé une instruction similaire et existante comme guide.
Le compilateur Python est un logiciel sophistiqué et je ne prétends pas en être un expert. Cependant, je suis vraiment intéressé par les internes de Python, et en particulier son front-end. Par conséquent, j'ai trouvé cet exercice un compagnon très utile pour l'étude théorique des principes et du code source du compilateur. Il servira de base pour de futurs articles qui approfondiront le compilateur.
Références
J'ai utilisé quelques excellentes références pour la construction de cet article. Les voici, sans ordre particulier:
source primaire
la source
until
isisa
/isan
as inif something isa dict:
orif something isan int:
Une façon de faire des choses comme celle-ci est de prétraiter la source et de la modifier, en traduisant votre instruction ajoutée en python. Cette approche posera divers problèmes, et je ne la recommanderais pas pour un usage général, mais pour l'expérimentation avec le langage ou la métaprogrammation à des fins spécifiques, elle peut parfois être utile.
Par exemple, disons que nous voulons introduire une instruction "myprint" qui, au lieu d'imprimer à l'écran, se connecte à un fichier spécifique. c'est à dire:
serait équivalent à
Il existe différentes options pour effectuer le remplacement, de la substitution de regex à la génération d'un AST, en passant par l'écriture de votre propre analyseur en fonction de la proximité de votre syntaxe avec le python existant. Une bonne approche intermédiaire consiste à utiliser le module tokenizer. Cela devrait vous permettre d'ajouter de nouveaux mots-clés, des structures de contrôle, etc. tout en interprétant la source de la même manière que l'interpréteur python, évitant ainsi la rupture des solutions regex grossières. Pour le "myprint" ci-dessus, vous pouvez écrire le code de transformation suivant:
(Cela fait effectivement de myprint un mot-clé, donc l'utiliser comme variable ailleurs causera probablement des problèmes)
Le problème est alors de savoir comment l'utiliser pour que votre code soit utilisable depuis python. Une façon serait simplement d'écrire votre propre fonction d'importation et de l'utiliser pour charger du code écrit dans votre langage personnalisé. c'est à dire:
Cela nécessite cependant que vous gériez votre code personnalisé différemment des modules python normaux. c'est-à-dire "
some_mod = myimport("some_mod.py")
" plutôt que "import some_mod
"Une autre solution assez soignée (quoique hacky) est de créer un encodage personnalisé (voir PEP 263 ) comme le montre cette recette. Vous pouvez implémenter ceci comme:
Maintenant, après l'exécution de ce code (par exemple, vous pouvez le placer dans votre .pythonrc ou site.py), tout code commençant par le commentaire «# coding: mylang» sera automatiquement traduit par l'étape de prétraitement ci-dessus. par exemple.
Mises en garde:
Il y a des problèmes avec l'approche du préprocesseur, comme vous le saurez probablement si vous avez travaillé avec le préprocesseur C. Le principal est le débogage. Tout ce que Python voit est le fichier prétraité, ce qui signifie que le texte imprimé dans la trace de la pile, etc. y fera référence. Si vous avez effectué une traduction importante, cela peut être très différent de votre texte source. L'exemple ci-dessus ne change pas les numéros de ligne, etc., donc ne sera pas trop différent, mais plus vous le changez, plus il sera difficile à comprendre.
la source
myimport
sur un module qui contient simplementprint 1
car il ne s'agit que d'une ligne de code=1 ... SyntaxError: invalid syntax
b=myimport("b.py")
", et b.py contenant juste "print 1
". Y a-t-il autre chose à propos de l'erreur (trace de pile etc)?import
utilise le builtin__import__
, donc si vous écrasez cela ( avant d' importer le module qui nécessite l'importation modifiée), vous n'avez pas besoin d'un autremyimport
Oui, dans une certaine mesure, c'est possible. Il existe un module qui utilise
sys.settrace()
pour implémentergoto
et descomefrom
"mots clés":la source
À moins de changer et de recompiler le code source (ce qui est possible avec l'open source), changer la langue de base n'est pas vraiment possible.
Même si vous recompilez la source, ce ne serait pas python, juste votre version modifiée piratée dans laquelle vous devez faire très attention à ne pas introduire de bogues.
Cependant, je ne sais pas pourquoi vous voudriez le faire. Les fonctionnalités orientées objet de Python permettent d'obtenir des résultats similaires assez facilement avec le langage tel qu'il est.
la source
Réponse générale: vous devez prétraiter vos fichiers sources.
Réponse plus spécifique: installez EasyExtend et suivez les étapes suivantes
i) Créer un nouveau langlet (langue d'extension)
Sans spécification supplémentaire, un tas de fichiers doit être créé sous EasyExtend / langlets / mystmts /.
ii) Ouvrez mystmts / parsedef / Grammar.ext et ajoutez les lignes suivantes
Cela suffit pour définir la syntaxe de votre nouvelle instruction. Le non-terminal small_stmt fait partie de la grammaire Python et c'est l'endroit où la nouvelle instruction est accrochée. L'analyseur reconnaîtra maintenant la nouvelle instruction, c'est-à-dire qu'un fichier source la contenant sera analysé. Le compilateur le rejettera cependant car il doit encore être transformé en Python valide.
iii) Il faut maintenant ajouter la sémantique de l'instruction. Pour cela, il faut éditer msytmts / langlet.py et ajouter un visiteur du nœud my_stmt.
iv) cd en langlets / mystmts et tapez
Maintenant, une session doit être lancée et l'instruction nouvellement définie peut être utilisée:
Quelques étapes pour arriver à une déclaration triviale, non? Il n'existe pas encore d'API permettant de définir des choses simples sans avoir à se soucier des grammaires. Mais EE est modulo très fiable pour certains bugs. Ce n'est donc qu'une question de temps qu'une API émerge qui permet aux programmeurs de définir des éléments pratiques tels que des opérateurs d'infixe ou de petites instructions en utilisant simplement une programmation OO pratique. Pour des choses plus complexes comme l'intégration de langages entiers dans Python au moyen de la construction d'un langlet, il n'y a aucun moyen de contourner une approche grammaticale complète.
la source
Voici une façon très simple mais merdique d'ajouter de nouvelles déclarations, en mode interprétatif uniquement . Je l'utilise pour de petites commandes à 1 lettre pour éditer les annotations de gènes en utilisant uniquement sys.displayhook, mais pour pouvoir répondre à cette question, j'ai également ajouté sys.excepthook pour les erreurs de syntaxe. Ce dernier est vraiment moche, récupérant le code brut du tampon readline. L'avantage est qu'il est très simple d'ajouter de nouvelles instructions de cette façon.
la source
J'ai trouvé un guide sur l'ajout de nouvelles déclarations:
https://troeger.eu/files/teaching/pythonvm08lab.pdf
Fondamentalement, pour ajouter de nouvelles instructions, vous devez éditer
Python/ast.c
(entre autres) et recompiler le binaire python.Tant que c'est possible, ne le faites pas. Vous pouvez presque tout réaliser via des fonctions et des classes (ce qui n'obligera pas les gens à recompiler python juste pour exécuter votre script ..)
la source
Il est possible de le faire en utilisant EasyExtend :
la source
Il ne s'agit pas exactement d'ajouter de nouvelles instructions à la syntaxe du langage, mais les macros sont un outil puissant: https://github.com/lihaoyi/macropy
la source
Non sans modifier l'interprète. Je sais que beaucoup de langues au cours des dernières années ont été décrites comme «extensibles», mais pas de la manière que vous décrivez. Vous étendez Python en ajoutant des fonctions et des classes.
la source
Il existe un langage basé sur python appelé Logix avec lequel vous POUVEZ faire de telles choses. Il n'est pas en cours de développement depuis un certain temps, mais les fonctionnalités que vous avez demandées fonctionnent avec la dernière version.
la source
Certaines choses peuvent être faites avec des décorateurs. Supposons par exemple que Python n'avait aucune
with
instruction. Nous pourrions alors implémenter un comportement similaire comme celui-ci:C'est une solution assez impure cependant comme cela est fait ici. Surtout le comportement où le décorateur appelle la fonction et ensembles
_
àNone
est inattendu. Pour clarification: ce décorateur équivaut à l'écritureet les décorateurs sont normalement censés modifier les fonctions et non les exécuter.
J'ai déjà utilisé une telle méthode dans un script où je devais définir temporairement le répertoire de travail pour plusieurs fonctions.
la source
Il y a dix ans, vous ne pouviez pas, et je doute que cela ait changé. Cependant, il n'était pas si difficile de modifier la syntaxe à l'époque si vous étiez prêt à recompiler python, et je doute que cela ait changé non plus.
la source