jetson AGX vs RTX 2800 ti

Question

jetson AGX とRTX 2800 ti　どっちのほうが性能がいいですか？
用途　深層学習に使う

自分なりに調べた結果
コアクロックやコア数はRTX 2800 tiのほうが上ですが　
tflopsはfp16でRTX=11.3　AGX=21 とjetson AGXのほうがなぜか高いです

どっちを買ったほうがいいんでしょうか？

Answer 1

RTX2080Ti はデスクトップパソコン用のグラボなので、単体で買ってもそれに対応したマザボや電源があるデスクトップパソコンがないと使えません。(PCを新規購入するなら別ですが)

↑ PCのマザボに挿して使います。

一方、Jetson AGX Xavier はエッジ向けで、それ単体で PC として機能します。

↑ モニタやキーボード、マウスを指してパソコンとして使えます。実物を見たことがありますが、片手でつかめるぐらいの大きさ

公式ページ Jetson AGX Xavier を見るとわかりますが、自動運転やロボットなどエッジ用途を想定していることがわかります。高機能のラズパイと思えばよいでしょう。

tflopsはfp16でRTX=11.3　AGX=21 とjetson AGXのほうがなぜか高いです

詳しい理由はわかりませんが、エッジ用途なので、省電力化するために FP16 の演算能力が強化されているのではないでしょうか。デスクトップ用の RTX シリーズは、ゲームなど 3D グラフィックが主な用途なので、FP32 演算がメインです。

---

よって、深層学習をどのような状況で使うのかで決めればいいのではないでしょうか
あくまで、デスクトップパソコン上でしか深層学習をしないのであれば、RTX シリーズでいいと思います。

Comments

[Flan.]

ホストPCは既にあります
AGXはホストPCと連動してやることになりますが
fp16で深層学習やるなら　GPU代わりにAGXを使うのはよくないってことですか？

[tiitoi]

> GPU代わりにAGXを使うのはよくないってことですか？

Jetson AGX Xavier もちゃんとした GPU がついてますが、GPU の使用目的が学習用であれば、RTX シリーズを買ったほうがいいですね
Jetson シリーズは学習用途というよりは、学習したモデルを使ったソフトウェアをデプロイするためのデバイスです。

ちなみに FP16 演算の能力が Jetson AGX Xavier のほうが RTX2080Ti より高いというソースはありますか？調べてでてきたサイトには RTX のほうが高いと書いてありました。

RTX2080Ti FP16 28.5 TFLOPS
https://www.hpctech.co.jp/gpuproduct/nvidia-rtx-2080-ti.html
Jetson AGX Xavier FP16 11 TFLOPS
https://www.macnica.co.jp/business/semiconductor/articles/nvidia/133162/