回答編集履歴

- 体感的にバッチサイズは大きければ大きいほどゆらぎが少なくなり結果が良くなるように私は感じています。しかし、表示されているワーニングメッセージの意味することは、「GPUのメモリを全て使い切っているうえに、データがGPUに収まらないからPC本体のRAMをたくさん消費しているよ。」というニュアンスです。下図は私のPCに搭載されている `GPU GTX1070` の搭載RAMと消費状況ですが、 8119MB中262MB を使用しています。トレーニング実施時には 8000MB ほどまで消費量が上昇することは普通にありますが、消費量が大きくなるとPCのRAMとGPUのRAMの間でのデータの転送に時間が掛かるようになり学習時間が長くなる傾向があります。GPUのRAMをオーバーフローした状態でもトレーニングは正常に終わりますが、PC側のRAMとSWAP領域を全て使い切ると `Out of Memory` というエラーが表示されて学習が中断してしまいます。メモリの使用状況をしばらくウォッチして、 PCのRAM＋SWAPとGPUのRAMを全て使い切らない程度にバッチサイズを調整したほうが良いと思います。ご参考になれば幸いです。

-