おすすめのGPUの学習環境を教えてください。

Question

GPUクラウドの例
http://www.nvidia.com/object/gpu-cloud-computing-services.html

ディープラーニングの学習をする際にデータを増やすと、
パソコンが熱くなり、何日もかかります。
ずっと熱いパソコンを家において会社に行くのは火事になるのではないかと非常に怖く学習を切っています。

長い学習をする場合はクラウドを使うしかないのかと思いましたが
月に8万程と高いものしか知らないです。

何か良い学習環境を御存知の方はいらっしゃいますでしょうか。

Answer 1

もしもお使いのPCにNVIDIA社のGPU(グラフィックカード）が使われているのなら、GPUの持つ複数のグラフィックエンジンを活用するCUDAという並列コンピューティングプラットフォームが利用可能です。並列処理することで、学習時間が短縮できると思いますし、負荷がCPUからグラフィックカードに移りますからCPU過熱の問題も解決する可能性があります。（グラフィックカードの発熱は大きくなりますから、パソコンケースの吸排気ファンの増設などの対策が必要かもしれません）

３，４万円程度で買えるグラフィックカードでも１０００個ぐらいのグラフィックコア(プロセッサ)を搭載していますから、GPUクラウドの一か月分の費用程度で並列コンピューティングができるパソコンを購入する事もできると思います。

CUDAについては、GPUコンピューティングについてなどのNVIDIAのページで説明されています。

Comments

[miyamoto0105]

グラボの購入を考えたいと思います。ありがとうございます！！

Answer 2

火事になるのではないかと非常に怖く学習を切っています

もし最近のCPUなら、温度が上がり過ぎると、
自動でクロックを落としたり停止したりします。
が、やはり火災の危険性は残るので、その方が安全です。

---

クラウドを使うしかないのか

クラウドは快適ですが、やはりおっしゃるとおり高いです。
また、機械学習はWebサーバと違い、予測不可能なアクセス負荷の集中が
ありませんので、クラウドのメリットを十全に引き出せません。

---

良い学習環境

機械学習にはスケールアウトが有効です。
すなわち、値段が高くて性能も高いPCよりも、
値段の安いPCを多くそろえた方が得です。

なぜそうなるかというと、HDD容量や通信など、
計算に関係ない部分のマージンを抜けるからです。
もちろん、計算特性なども関係するでしょう。

それで具体的には、「ラズベリーパイ」やスティック型PCなど、
（場合により複数台）小型PCを計算用サーバにして、
十分な冷却装置を備えて稼働させるのが良さそうです。
（ラズパイでもGPU計算は可能です）

これの何が良いのかというと、電気代が安いことです。
やはりHDDなどが電気を喰っており、そこを省力化できます。
大したことなく見えて、年間だと「塵も積もれば山」となるでしょう。
（ただし、クラウドより面倒を見る手間はかかるでしょう）

Comments

[miyamoto0105]

hadoopのようにラズパイを何個も繋がるということでしょうか？

[miyamoto0105]

https://m.srad.jp/story/13/06/06/0534252

こんな感じで13台とか繋がるってことですかね

[LLman]

はい、必要な計算力に応じて、単数で足りなければ複数台も可能です。
ただとうぜん、台数が多ければ、電気代などコストもかかります。

[miyamoto0105]

質問なのですがクラスタしても2G flopsと書いてあります。
http://www.cenav.org/raspi3/

GTX 1060だと4T flopsと書いてあり、明らかにGPUが勝ってるように見えるのですがあってますか？
http://jisakutech.com/archives/2016/07/19533

[LLman]

はい、GPUだと計算力が桁違いに出ますよ。コア数が多いから。

しかし、いくらスペック上は圧勝でも、計算特性が違うので、
並列計算できない場合は、GPUはCPUより遅くなります。
だいたい、パソコンはCPUを無くして、GPUに置きかえませんよね。

「機械学習など並列処理が可能な用途だけに使う」「計算資源が多いほどよい」、
という条件でしたら、GPUが最適だと思います。
その場合、現在のPC、もしくは自作機などに、グラボを搭載すればよいでしょう。

逆に「機械学習だけでなく多目的に使う」「計算資源を余らせても仕様がない」、
という条件でしたら、小型機の方が潰しが利きます。

たとえば、メインPCのほかに、サブ機として使うとか、
自宅サーバとして使うとかは、グラボだとできません。

あるいは、二者択一ではなく、「安めのグラボと小型機数台」でもいいわけです。
そのあたりは目的に応じて、自由に構成してください。

Answer 3

値段を重視すれば性能とトレードオフになると思うので結局は長いこと動かさなければならないのであまり意味はないかと思います。
GPU Cloud Computingはまだあまり一般的ではないのでサービスも少ない＝高いと思います。

パソコンをつけっぱなしで火事になるというのはあまり聞きませんが、たしかにフルパワーで２４時間稼働するとかなり負荷がかかり、場合によっては寿命を縮めるかもしれません。
家庭用ではなくサーバー用途のちゃんと排熱ができているものを買えばあまり問題はないように思います。

CPU、GPUのクロックをあえて下げて熱量を抑えるという方法もあるかと思います。

Comments

[miyamoto0105]

クロック数を調整しようと思います！ありますがとうございます！