Tensorflowで必要なVRAM容量

Question

Tensorflowで、必要になるVRAMの容量はどのように計算すればよいのでしょうか。（GPU使用時）
メモリの容量が足りないと言われるのですが、単純に変数の大きさを計算して足すだけでは足りないのでしょうか。

Comments

[terapyon]

必要になるリソースは、学習データやネットワーク、モデルなどによって変わってくるはずです。それらを提示しないと回答が得られないと思います。

Answer 1

変数の大きさとは何を指しているのでしょうか？
ディープラーニングでは各層に多次元のパラメータが存在し、そのパラメータを更新していきます。
つまり、内部に多くのデータを持つことになります。

ミニバッチのサイズやネットワークによって、メモリの使用量は大きく変わってくると思います。

メモリ量の計算は難しいのではないかと思います。

Comments

[yamane]

ありがとうございました。遅くなりすいません。一般論として必要なＧＰＵの
メモリ使用量の計算方法が知りたかったのですが、なかなか難しいようですね。