Keras avec le backend Tensorflow peut-il être forcé d'utiliser le CPU ou le GPU à volonté?

J'ai Keras installé avec le backend Tensorflow et CUDA. J'aimerais parfois forcer Keras à utiliser le processeur. Cela peut-il être fait sans, par exemple, installer un Tensorflow séparé, uniquement CPU, dans un environnement virtuel? Si c'est le cas, comment? Si le backend était Theano, les indicateurs pourraient être définis, mais je n'ai pas entendu parler des indicateurs Tensorflow accessibles via Keras.

Si vous souhaitez forcer Keras à utiliser le processeur

Voie 1

import os
os.environ["CUDA_DEVICE_ORDER"] = "PCI_BUS_ID"   # see issue #152
os.environ["CUDA_VISIBLE_DEVICES"] = ""

avant l'importation de Keras / Tensorflow.

Voie 2

Exécutez votre script en tant que

$ CUDA_VISIBLE_DEVICES="" ./your_keras_code.py

Voir également

1. https://github.com/keras-team/keras/issues/152
2. https://github.com/fchollet/keras/issues/4613

Une façon plutôt séparable de faire ceci est d'utiliser

import tensorflow as tf
from keras import backend as K

num_cores = 4

if GPU:
    num_GPU = 1
    num_CPU = 1
if CPU:
    num_CPU = 1
    num_GPU = 0

config = tf.ConfigProto(intra_op_parallelism_threads=num_cores,
                        inter_op_parallelism_threads=num_cores, 
                        allow_soft_placement=True,
                        device_count = {'CPU' : num_CPU,
                                        'GPU' : num_GPU}
                       )

session = tf.Session(config=config)
K.set_session(session)

Ici, avec booleans GPUet CPU, nous indiquons si nous souhaitons exécuter notre code avec le GPU ou le CPU en définissant de manière rigide le nombre de GPU et de CPU auxquels la session Tensorflow est autorisée à accéder. Les variables num_GPUet num_CPUdéfinissez cette valeur. num_coresdéfinit ensuite le nombre de cœurs CPU disponibles pour une utilisation via intra_op_parallelism_threadsetinter_op_parallelism_threads .

La intra_op_parallelism_threadsvariable dicte le nombre de threads qu'une opération parallèle dans un seul nœud du graphe de calcul est autorisée à utiliser (intra). Alors que la inter_ops_parallelism_threadsvariable définit le nombre de threads accessibles pour les opérations parallèles à travers les nœuds du graphe de calcul (inter).

allow_soft_placement permet d'exécuter des opérations sur la CPU si l'un des critères suivants est rempli:

1. il n'y a pas d'implémentation GPU pour l'opération

2. il n'y a aucun périphérique GPU connu ou enregistré

3. il est nécessaire de co-localiser avec d'autres entrées du CPU

Tout cela est exécuté dans le constructeur de ma classe avant toute autre opération, et est complètement séparable de tout modèle ou autre code que j'utilise.

Remarque: Cela nécessite tensorflow-gpuet cuda/ cudnndoit être installé car l'option est donnée d'utiliser un GPU.

Réf:

• Que signifient les options de ConfigProto telles que allow_soft_placement et log_device_placement?

• Signification de inter_op_parallelism_threads et intra_op_parallelism_threads

Cela a fonctionné pour moi (win10), place avant d'importer des keras:

import os
os.environ['CUDA_VISIBLE_DEVICES'] = '-1'

Il suffit d'importer tensortflow et d'utiliser des keras, c'est aussi simple que cela.

import tensorflow as tf
# your code here
with tf.device('/gpu:0'):
    model.fit(X, y, epochs=20, batch_size=128, callbacks=callbacks_list)

Selon le didacticiel keras , vous pouvez simplement utiliser la même tf.deviceportée que dans le tensorflow normal:

with tf.device('/gpu:0'):
    x = tf.placeholder(tf.float32, shape=(None, 20, 64))
    y = LSTM(32)(x)  # all ops in the LSTM layer will live on GPU:0

with tf.device('/cpu:0'):
    x = tf.placeholder(tf.float32, shape=(None, 20, 64))
    y = LSTM(32)(x)  # all ops in the LSTM layer will live on CPU:0

Je viens de passer un peu de temps à comprendre. La réponse de Thoma n'est pas complète. Disons que votre programme est test.py, vous voulez utiliser gpu0 pour exécuter ce programme et garder les autres gpus libres.

Tu devrais écrire CUDA_VISIBLE_DEVICES=0 python test.py

Remarquez que ce n'est DEVICESpasDEVICE

Pour les personnes travaillant sur PyCharm et pour forcer le processeur, vous pouvez ajouter la ligne suivante dans la configuration Exécuter / Déboguer, sous Variables d'environnement:

<OTHER_ENVIRONMENT_VARIABLES>;CUDA_VISIBLE_DEVICES=-1