Apprentissage automatique: écrire des poèmes

8

Je suis un étudiant en apprentissage automatique et ces jours-ci, j'essayais d'apprendre à utiliser la bibliothèque TensorFlow. J'ai parcouru divers tutoriels et essais et erreurs avec tensorflow, et je pensais que la meilleure façon de l'apprendre pour de vrai serait de l'utiliser dans un petit projet à moi.

J'ai décidé que je devrais essayer de faire un programme qui écrit des poèmes. Je ne vise pas un programme de qualité haut de gamme; pour mon premier modèle, je serais heureux avec juste une chaîne de groupes de mots non-sens ensemble sous forme de poème. Le problème est que j'ai du mal à rechercher des livres ou des vidéos sur les programmes d'apprentissage automatique qui traitent de l'écriture des structures de phrases.

Pouvez-vous faire des suggestions sur ce que je pourrais rechercher (même les mots-clés Google conviennent) pour obtenir les exemples de programmes et les connaissances de base dont j'ai besoin?

Je vous remercie.

machine-learning neural-network tensorflow Daniel
la source
2
J'ai déjà utilisé une chaîne de Markov pour générer des noms avec un certain sens, ce serait probablement une bonne stratégie pour les poèmes?
Mephy
6
Étudier l' efficacité déraisonnable des réseaux de neurones récurrents .
Emre

Réponses:

5

Ce n'est que le commentaire d'Emre développé, mais oui, vous devriez vous pencher sur les réseaux de neurones récurrents pour générer du texte dans le style d'un corpus donné. Les RNN et le LSTM fonctionnent très bien pour cela.

L'écriture sur http://karpathy.github.io/2015/05/21/rnn-effectiveness/ est largement citée, et à votre question, montre comment il est assez facile de générer quelque chose comme ça, étant donné le texte des pièces de Shakespeare:

PANDARUS: Hélas, je pense qu'il viendra approché et le jour où le petit sang serait atteint pour ne jamais être nourri, et qui n'est qu'une chaîne et des sujets de sa mort, je ne devrais pas dormir.

Deuxième sénateur: Ils sont loin de ces misères, produites sur mon âme, Brisant et fortement devraient être enterrées, quand je périrai La terre et les pensées de nombreux états.

Si vous suivez https://github.com/jcjohnson/torch-rnn, vous pouvez également l'exécuter facilement sur votre GPU local pour générer du texte à partir de la poésie d'entrée que vous aimez. J'ai eu de très bons résultats avec un décrochage de 0,1-0,5, 2 couches, des couches de taille 512-1024.

Sean Owen
la source