GPUよりCPUのほうが早いのはなぜ - ディープラーニング実行(Tensorflow) -

Question

GPUとCPUでのディープラーニング処理速度を比較するため、AnacondaでCPUとGPUでTensorflowを使える仮想環境を構築しました。

◆環境
Windows10 64bit
NVIDIA GeForce GTX 1650
Microsoft Visual Studio C++ 2019
CUDA v10.0
cuDNN 7.4

<AnacondaでGPUを使う仮想環境> "gpuEnv"
python 3.6
TensorFlow-GPU 2.0.0
Keras 2.3.1

<AnacondaでGPUを使う仮想環境> "cpuEnv"
python 3.7.7
TensorFlow 2.1.0
Keras 2.3.1

---

上記の仮想環境（gpuEnv, cpuEnv）で下記のシンプルなMNIST_Datasetの学習をさせてみました。

# TensorflowにGPUが認識されているか確認する
import tensorflow as tf
if tf.test.gpu_device_name():
    print('Default GPU Device: {}'.format(tf.test.gpu_device_name()))
else:
    print("Please install GPU version of TF")

from tensorflow import keras
import numpy as np

fashion_mnist = keras.datasets.fashion_mnist 
(train_images, train_labels), (test_images, test_labels) = fashion_mnist.load_data() 
train_images = train_images/225.0
test_images = test_images/225.0

model = keras.Sequential([
    keras.layers.Flatten(input_shape=(28,28)),   
    keras.layers.Dense(units=128, activation="relu"),  
    keras.layers.Dense(units=10, activation="softmax") 
])
model.compile(optimizer='adam',
              loss='sparse_categorical_crossentropy',
              metrics=['accuracy'])
# 学習実行
model.fit(train_images, train_labels, epochs=1) 

---

以下、各仮想環境の出力コンソールです。CPUよりGPUの方が処理時間が長いのがわかります。
考えられる原因はなんでしょうか。当方初心者で恐縮ですが是非皆様の知恵をお借りしたく。

> Default GPU Device: /device:GPU:0  # GPUが認識されている

> Train on 60000 samples
> 60000/60000 [==============================] - 4s 64us/sample - loss: 0.4982 - accuracy: 0.8250
> <tensorflow.python.keras.callbacks.History at 0x1a395e48e48>

> Please install GPU version of TF　 # GPUが認識されていない

> Train on 60000 samples
> 60000/60000 [==============================] - 2s 38us/sample - loss: 0.4913 - accuracy: 0.8275
> <tensorflow.python.keras.callbacks.History at 0x29ae6374188>

Answer 1

「下記のシンプルなMNIST_Datasetの学習をさせてみた」からかもしれません。
小さなデータセットではGPUのウマミがでませんから。

※ 近所のコンビニ行くのにジェット機用意してるよなもんです。

Comments

[koyamashinji]

なるほど。完全に盲点でした。近所のコンビニにジェット機で行くと、歩くより時間かかるということがわかりました。

[episteme]

いや、ホントにそうかはわかんないですよ。
可能性としては/考えられる要因としては、ってことで。