ニューラルネットワークによる2クラスの画像分類

Question

画像データをNumpy配列方式に変換してから、ミニバッチ学習でバッチサイズやエポック数をいじって何通りかトレーニングを実行してAccuracyで評価します。
そこで、例えば画像を変換してバッチサイズ32・100エポックで実行した後、再度変換せずに続けてバッチサイズ64・100エポックで実行した場合、Accuracyに何か影響が出るでしょうか。
毎度画像の変換からやらず続けて実行することで、Accuracyが高くなるあるいは低くなるということが起こり得るでしょうか。

Answer 1

ミニバッチは学習データ全体を計算処理しやすいサイズに分割して、細切れに学習させる処理です。なので、細切れサイズを変えようが結局すべて一周するから同じじゃないか、と昔は思っていました。

が、実際はそうではないことが数年前から指摘されています。

Deep Learningにおけるバッチサイズと学習率をどう決めるか(shizumaさん)を参照ください。

一般論)
データ量にもよるかと思いますが、ミニバッチが大きい方がオーバーヘッドが減る分いくらか処理が速くなるかもしれません。やりすぎるとご存じの通りコケるので注意が必要です。

記事での指摘事項)
バッチサイズを大きくすると最適化具合が少し落ちる可能性があります。適当に学習率で帳尻合わせが必要になるかもしれません。

再度変換せず

np.saveとnp.loadを使うと幸せになれると思います。