機械学習における精度と誤差の急変動の原因

Question

質問内容

機械学習関連の質問で申し訳ないのですが、CNN系のアーキテクチャ関連の資料を見ていると、精度や誤差が急変動している瞬間があります。
この原因について通説はありますでしょうか？
下記の参考画像のエポック数151あたりの現象を指しています。

参考画像：内田祐介「畳み込みニューラルネットワークの研究動向」(2017)

Answer 1

畳み込みニューラルネットワークの研究動向

の77スライド目
学習条件の学習係数スケジュールをご覧ください

学習係数を変えているためと思われます。
CIFAR10/100の方は150エポック辺りで急変動
Imagenetの方は30エポック毎辺りで急変動
となっているのに呼応するかと思います。

私は直接試したわけではないですが、これ以外には変動要因が考えにくいかと。

Comments

[traintraingorun]

回答ありがとうございます。
学習率の違いによって異なるいうことは、何らかの原因で、オプティマイザーが局所解を抜け出して、大きく学習係数が変わったということですかね。
オプティマイザーの性能によるものだと納得しておきます。

[aokikenichi]

私の回答と資料のp.77を今一度ご確認下さい

学習率の違いではなく学習係数の違いです
何らかの原因で学習係数が変わったのではなくて学習係数を変えるという試行をしたということです

[traintraingorun]

すみません、理解いたしました。ありがとうございます。
自作の分類機ではありますが、スライドと似たようなLossの不連続減少が生じ、（学習係数を意図的に変えてはおりません）その不連続点を境に、捉えられるデータに偏りが生じるという現象が生じておりまして。。。
どういった原因なのか知りたかったのですが、中々難しそうですね