cupyが機能していることを確認する方法

Question

cupyが機能していることを確認する方法

Cupyの導入を検討していて、試しに手元の環境GTX-750でcupyのサンプルプログラムを動かしてみました。

Mnistを学習させるやつで学習は５分くらいで終了しました。ただ、実行中いつもと違うファンが動いている気はしたのですが、体感そんなに変化がなくちゃんと並列処理できているの疑問に感じました。

Numpyで行っていた行列計算もやらせたのですが、与えた行列が小さいためか、必ずcupyで実行したほうが数秒遅いという結果になりました。

nvidia-smiで確認した実行中のGPUの様子はこんな感じです。

+-----------------------------------------------------------------------------+
| NVIDIA-SMI 384.130                Driver Version: 384.130                   |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  GeForce GTX 750 Ti  Off  | 00000000:03:00.0  On |                  N/A |
| 22%   32C    P8     1W /  38W |    226MiB /  1995MiB |      6%      Default |
+-------------------------------+----------------------+----------------------+
                                                                               
+-----------------------------------------------------------------------------+
| Processes:                                                       GPU Memory |
|  GPU       PID   Type   Process name                             Usage      |
|=============================================================================|
|    0      1075      G   /usr/lib/xorg/Xorg                           130MiB |
|    0      2553      G   compiz                                        89MiB |
|    0      3387      G   unity-control-center                           1MiB |
+-----------------------------------------------------------------------------+

どうすればちゃんと動いているって確証を得られますが、まだ導入するか決めかねている（扱うでデータが小さくバッチ化していないので恩恵が・・・）のでサックとわかる方法が知りたいです。

Comments

[退会済みユーザー]

GPUで動作していることは実行中に`nvidia-smi -l`とかを見てればなんとなく分かると思います。
ちゃんと確認するなら/proc/{pid}/mapにlibcuda.soとlibcudnn.soがあるかもしれません。
パフォーマンスが出ることを確認したいのなら、100万*100万くらいの行列で何かしらelement-wiseな計算をやれば充分体感できると思います。
ただ、mnistで体感できないのはちょっと気になりますね。

[picker413]

サンプルプログラムでnvidia-smi -lを試したところfunもmemoryも変化がなくproocessの欄も実行前と実行後に変化がありませんでした。
ご指摘通り大きめのランダムの行列をnumpyとcupyで計算したところ確かに積の計算が早くなりprosessにもjob番号が出てきたのでcupyの問題というよりはサンプルコードの問題だと思います。
mnistを使う予定はないのでこれで良しとします。
ありがとうございました。

Answer 1

import numpy as np
import chainer
import cupy as cp
import time

n = 2000
t1 = time.time()
a = np.random.rand(n,n)
b = np.random.rand(n,n)
np.dot(a,b)
t2 = time.time()
a = cp.random.rand(n,n)
b = cp.random.rand(n,n)
cp.dot(a,b)
t3 = time.time()
print ('np:',t2-t1)
print ('cp:',t3-t2)

np: 0.6335668563842773
cp: 0.0008411407470703125

2000*2000行列の積で速度が出ているので良しとしました。
サンプルプログラムではGPUは動かなかったのですが、cupyとは別に問題があると思ってます。