ディープラーニングによる学習回数の決定基準

Question

ディープラーニングによる学習回数の決定基準についてお聞きしたいことがあります。

学習回数（epoch数）はたくさん行えば行うほどよくなる。というわけではないということが知られていますが、

それでは、何回やればいいのでしょうか？

学習回数の目安のようなものはどのようにして測ればいいのでしょうか？

以上、よろしくお願い致します。

Answer 1

Kerasタグがついているので、EarlyStoppingというものをおすすめしておきます。
https://qiita.com/akimach/items/d9341df56e3bb63b33d5
http://blog.shoby.jp/entry/2017/06/07/224514

Comments

[essa]

EarlyStoppingについて、ありがとうございます。
こんな便利なものがあるのですね。
Kerasについて、もっと勉強しなくては。。。と思いました。
ありがとうございます。

Answer 2

いい感じになるか、それ以上学習が進まなくなるまで。

そのために学習用のデータと検証用のデータの両方を用意し、適宜に検証用のデータで正答率を確認するわけです。

Comments

[essa]

回答ありがとうございます。

機械学習をする際は、以下3つのデータが必要だと解釈しております。
１．Trainingデータ
２．Testデータ
３．Validationデータ

たとえば、データが100あった場合は
60をTrainingデータ
20をTestデータ
20をValidationデータ
とした場合、
Trainingデータでは単に学習をし、Testデータでは正答率を確認し、Validationデータで、目的としているデータに対して学習済み結果を適用させる。
と解釈しております。

Kunihiro様の話されている”検証用のデータ”とは、上記でいうTestデータのことであっていますか？

また、”いい感じになる”、”学習が進まなくなる”というのは、なんらかの評価指数を使って定量的な評価をしているのだと思います。この考えはあっているでしょうか？

Answer 3

アルゴリズムとデータによっては先人の知恵（どれくらいの回数で収束するか？）が利用できます。

そうでない場合は試行錯誤をしていきます。

何を元に試行錯誤をするかと問われれば「学習が進まなくなったか？（＝収束したか？）」と「過学習が進んでいないか？」の２点で概ね打ち切りを決定します。

Comments

[essa]

回答ありがとうございます。

＞アルゴリズムとデータによっては先人の知恵（どれくらいの回数で収束するか？）が利用できます。
経験則。ということでしょうか？

そういったものは、論文等を追っていくのがいいのでしょうか？

[yag1kaz]

主には、論文や、ブログですね。

打ち切り時点の判定に悩まれている段階なので、使用するデータとアルゴリズムで検索をかけると先人の通った道が残っていると思います。