質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Q&A

解決済

1回答

1000閲覧

機械学習における精度と誤差の急変動の原因

traintraingorun

総合スコア1

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

0グッド

0クリップ

投稿2020/06/30 06:00

編集2020/07/01 06:12

質問内容

機械学習関連の質問で申し訳ないのですが、CNN系のアーキテクチャ関連の資料を見ていると、精度や誤差が急変動している瞬間があります。
この原因について通説はありますでしょうか?
下記の参考画像のエポック数151あたりの現象を指しています。

イメージ説明
イメージ説明

参考画像:内田祐介「畳み込みニューラルネットワークの研究動向」(2017)

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

ベストアンサー

畳み込みニューラルネットワークの研究動向

の77スライド目
学習条件の学習係数スケジュールをご覧ください

学習係数を変えているためと思われます。
CIFAR10/100の方は150エポック辺りで急変動
Imagenetの方は30エポック毎辺りで急変動
となっているのに呼応するかと思います。

私は直接試したわけではないですが、これ以外には変動要因が考えにくいかと。

投稿2020/07/08 10:27

aokikenichi

総合スコア2210

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

traintraingorun

2020/07/09 09:08

回答ありがとうございます。 学習率の違いによって異なるいうことは、何らかの原因で、オプティマイザーが局所解を抜け出して、大きく学習係数が変わったということですかね。 オプティマイザーの性能によるものだと納得しておきます。
aokikenichi

2020/07/09 09:13

私の回答と資料のp.77を今一度ご確認下さい 学習率の違いではなく学習係数の違いです 何らかの原因で学習係数が変わったのではなくて学習係数を変えるという試行をしたということです
traintraingorun

2020/07/10 03:06

すみません、理解いたしました。ありがとうございます。 自作の分類機ではありますが、スライドと似たようなLossの不連続減少が生じ、(学習係数を意図的に変えてはおりません)その不連続点を境に、捉えられるデータに偏りが生じるという現象が生じておりまして。。。 どういった原因なのか知りたかったのですが、中々難しそうですね
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問