CupyでのGPU使用率が上がらない

Question

train_mnistにてGPU仕様率が上がらない

Ｐｙｔｈｏｎでtrain_mnistを走らせましたが、ＧＰＵ使用率が１２％程度になっています。
終了まで１２０秒程度かかってます。

環境
ＣＰＵ Ｅ５－２６７０　８Ｃ１６Ｔ　キャッシュ２０ＭＢ
ＭＥＭ　ＤＤＲ３　１６Ｇ
ＧＰＵ　ＧＴＸ－１０７０ ＰＣＩ－Ｅは２．０です。

試したこと

batchsizeを１００から１０００に変更したところ、使用率４０％程度まで上がりました。
終了まで４０秒程度掛かります。

bachsizeは1000のままで、unitを１０００から１５００に変更したところ、使用率８０％程度まで上がりました。
終了まで40秒程度です。

どれもＣＰＵ使用率は２０％程度です。

ＣＰＵ-ＧＰＵU間のデータ渡しがボトルネック等との意見がＷＥＢ上で見られますが
メモリーがＤＤＲ３と１世代前だから？　ＰＣＩ－Ｅが２．０だから？
メモリーもＰＣＩ－Ｅも現行より転送速度が遅いのですが、ここまで影響が出るものでしょうか。

補足情報（FW/ツールのバージョンなど）

windows10 64bit
cuda 10.1
python3.8
ここにより詳細な情報を記載してください。

Comments

[jbpb0]

Cupyで、ということは、Chainer使ってるのですか？

[PEMPEM]

すみませんでした。
Chainerを使っています。
よろしくお願いします。

[quickquip]

「問題が簡単すぎる」「モデルが小さい」で済む話ではない何かが聞きたいのでしょうか?
疑問点がピンとこなかったです。

エポックはデフォルトの20なのでしょうか。

[PEMPEM]

すみません。
初めてGPUで学習できる環境をと問えました。
ベンチで回した結果とwebで見たGTX1060の結果よりかなり遅い結果となっていたので、GPU使用量を確認しました。
エポックはデフォルトの２０で回してます。

[quickquip]

使用率というよりは、かかる時間の方が問題なのですね。
「webで見たGTX1060の結果」のページが知りたいように思います。

[jbpb0]

GTX 1070
https://qiita.com/akrian/items/3638499ce9d54171c68d

gtx960, 1070
https://www.robotech-note.com/entry/2016/09/30/092659

どちらも80〜90秒

[PEMPEM]

ありがとうございました。
ご紹介いただいたページでもGPU使用率は低いようですね。
処理時間の違いはメモリーとPCI-Eの違いのようですね。
ありがとうございました。

[jbpb0]

https://github.com/chainer/chainer/blob/master/examples/cifar/train_cifar.py
だと、GPU使用率上がると思いますよ

[PEMPEM]

ありがとうございます。
後ほどテストしてみます。

因みにPCI-Eの違いでは余り変わらないようです。
https://pcinformation.info/graphics/pci-express2-0-performance-deterioration.html

[jbpb0]

「train_cifar.py」実行例
https://pongsuke.hatenadiary.jp/entry/2017/03/16/184946

GTX 1060を使ってるようです
https://pongsuke.hatenadiary.jp/entry/2017/05/09/143923

[PEMPEM]

いろいろありがとうございます。
後ほど実行して結果ご報告いたします。

Answer 1

そんなものです
ChainerのTRAIN_MNISTベンチマーク(GTX1070有/無)
GPUのカタログスペック（TFLOPS）と学習時間の関係

Comments

[PEMPEM]

沢山の情報をいただきありがとうございました．
train_cifar.py回した結果常時使用率９５％前後で回ってました．
終了まで5時間ほど掛かりました。
train_mnist.pyではGPU使用率は上がらないようですね。
他の方より遅いのは少し気になりますが
ありがとうございました。

[jbpb0]

https://pongsuke.hatenadiary.jp/entry/2017/03/16/184946
がGTX 1060で4時間くらいなので、若干遅めですね