Kann Keras mit Tensorflow-Backend gezwungen werden, nach Belieben CPU oder GPU zu verwenden?

Ich habe Keras mit dem Tensorflow-Backend und CUDA installiert. Ich möchte Keras manchmal auf Anfrage zwingen, CPU zu verwenden. Kann dies ohne die Installation eines separaten Tensorflow nur für die CPU in einer virtuellen Umgebung erfolgen? Wenn das so ist, wie? Wenn das Backend Theano wäre, könnten die Flags gesetzt werden, aber ich habe noch nichts von Tensorflow-Flags gehört, auf die über Keras zugegriffen werden kann.

Wenn Sie Keras zur Verwendung der CPU zwingen möchten

Weg 1

import os
os.environ["CUDA_DEVICE_ORDER"] = "PCI_BUS_ID"   # see issue #152
os.environ["CUDA_VISIBLE_DEVICES"] = ""

bevor Keras / Tensorflow importiert wird.

Weg 2

Führen Sie Ihr Skript als aus

$ CUDA_VISIBLE_DEVICES="" ./your_keras_code.py

Siehe auch

1. https://github.com/keras-team/keras/issues/152
2. https://github.com/fchollet/keras/issues/4613

Eine ziemlich trennbare Möglichkeit, dies zu tun, ist die Verwendung

import tensorflow as tf
from keras import backend as K

num_cores = 4

if GPU:
    num_GPU = 1
    num_CPU = 1
if CPU:
    num_CPU = 1
    num_GPU = 0

config = tf.ConfigProto(intra_op_parallelism_threads=num_cores,
                        inter_op_parallelism_threads=num_cores, 
                        allow_soft_placement=True,
                        device_count = {'CPU' : num_CPU,
                                        'GPU' : num_GPU}
                       )

session = tf.Session(config=config)
K.set_session(session)

Hier geben wir mit booleans GPUund an CPU, ob wir unseren Code mit der GPU oder der CPU ausführen möchten, indem wir die Anzahl der GPUs und CPUs, auf die die Tensorflow-Sitzung zugreifen darf, genau definieren. Die Variablen num_GPUund num_CPUdefinieren diesen Wert. num_coresLegt dann die Anzahl der CPU-Kerne fest, die über intra_op_parallelism_threadsund zur Verwendung verfügbar sind inter_op_parallelism_threads.

Die intra_op_parallelism_threadsVariable bestimmt die Anzahl der Threads, die eine Paralleloperation in einem einzelnen Knoten im Berechnungsdiagramm verwenden darf (intra). Während die inter_ops_parallelism_threadsVariable die Anzahl der Threads definiert, auf die für parallele Operationen über die Knoten des Berechnungsgraphen (inter) zugegriffen werden kann.

allow_soft_placement ermöglicht die Ausführung von Operationen auf der CPU, wenn eines der folgenden Kriterien erfüllt ist:

1. Es gibt keine GPU-Implementierung für den Vorgang

2. Es sind keine GPU-Geräte bekannt oder registriert

3. Es besteht die Notwendigkeit, sich mit anderen Eingängen der CPU zusammenzuschließen

All dies wird im Konstruktor meiner Klasse vor allen anderen Operationen ausgeführt und ist vollständig von jedem Modell oder anderen Code, den ich verwende, trennbar.

Hinweis: Dies erfordert tensorflow-gpuund cuda/ oder cudnnmuss installiert werden, da die Option zur Verwendung einer GPU angegeben ist.

Refs:

• Was bedeuten die Optionen in ConfigProto wie allow_soft_placement und log_device_placement?

• Bedeutung von inter_op_parallelism_threads und intra_op_parallelism_threads

Dies hat bei mir funktioniert (win10), bevor Sie Keras importieren:

import os
os.environ['CUDA_VISIBLE_DEVICES'] = '-1'

Importieren Sie einfach Tensortflow und verwenden Sie Keras, so einfach ist das.

import tensorflow as tf
# your code here
with tf.device('/gpu:0'):
    model.fit(X, y, epochs=20, batch_size=128, callbacks=callbacks_list)

Gemäß dem Keras- Tutorial können Sie einfach den gleichen tf.deviceBereich wie beim regulären Tensorflow verwenden:

with tf.device('/gpu:0'):
    x = tf.placeholder(tf.float32, shape=(None, 20, 64))
    y = LSTM(32)(x)  # all ops in the LSTM layer will live on GPU:0

with tf.device('/cpu:0'):
    x = tf.placeholder(tf.float32, shape=(None, 20, 64))
    y = LSTM(32)(x)  # all ops in the LSTM layer will live on CPU:0

Ich habe nur einige Zeit damit verbracht, es herauszufinden. Thomas Antwort ist nicht vollständig. test.pyAngenommen, Ihr Programm ist , Sie möchten gpu0 verwenden, um dieses Programm auszuführen, und andere gpus frei halten.

Du solltest schreiben CUDA_VISIBLE_DEVICES=0 python test.py

Beachten Sie, dass es DEVICESnicht istDEVICE

Für Personen, die an PyCharm arbeiten und die CPU erzwingen, können Sie in der Run / Debug-Konfiguration unter Umgebungsvariablen die folgende Zeile hinzufügen:

<OTHER_ENVIRONMENT_VARIABLES>;CUDA_VISIBLE_DEVICES=-1