chainer+CUDA+cuDNNで畳み込みする際のPerformanceWarningについて

前提

chainerで機械学習をしている際に以下のような警告が出てきます。

PerformanceWarning: 
The best algo of conv fwd might not be selected due to lack of workspace size (8388608)

chainer+CUDA(11.0)+cuDNN(8.0)で畳み込みする際にPerformanceWarningが出る
によるとcuDNNがGPUのメモリ(workspace)を確保する際にサイズが不足していることが原因らしく、以下のコードで警告が出ないようにできるようです。

ws_size = 256 * 1024 * 1024 # 256MB
chainer.cuda.set_max_workspace_size(ws_size)

実際に試したところ警告はでなくなりました。

質問

警告が出なくなる方法はわかったのですが、このコードを加えたことによる他の効果があるのかが知りたいです。
上記の処理を加えることで学習速度や予測精度に差異が生まれるのでしょうか。
分かる方がいましたら教えていただけるとありがたいです。

jbpb0

2022/10/13 05:32 編集

質問者さんが参考にしてる https://qiita.com/yutake27/items/8883c632c66d25323a37 から参照されてる https://ja.stackoverflow.com/questions/45253/ から参照されてる https://github.com/chainer/chainer/issues/3922 を見ると、Tensorコア https://www.slideshare.net/NVIDIAJapan/chainer-tensor-fp16 を使おうとしてメモリー不足の場合はエラーになってたのを、 https://github.com/cupy/cupy/pull/890 の修正で > PerformanceWarning: The best algo of conv fwd might not be selected due to lack of workspace size (8388608) のようなwarningメッセージを出すようにしたようです warningメッセージに「might not be selected」と書かれてることから、おそらくwarningメッセージが出る場合はTensorコアが使われなくて、 > ws_size = 256 * 1024 * 1024 # 256MB chainer.cuda.set_max_workspace_size(ws_size) のようにしてメモリーが不足しない場合はTensorコアが使われるのだと思います > 上記の処理を加えることで学習速度や予測精度に差異が生まれるのでしょうか。 gpuの違うユニットで計算されたら何らかの違いは生じるでしょうけど、どれくらい違うのかはAIモデルとかデータの素性とかバッチサイズとかに依存すると思うので、どちらが良いのかも含めて、質問者さんの条件でそれぞれ実行して比較しないと分からないと思います