ニューラルネットワークの正答率についての理論的な説明

Question

ニューラルネットワークの理論について質問があります。

ニューラルネットワークで nx 個の訓練データを使ったときの正答率をa_nとしたとき、
nが大きくなるにつれて、a_(n+1)-a_n が小さくなることを理論的に示すにはどのようにすればいいですか？

ニューラルネットワークは収束するはずなので、直感的にはわかるのですが、どのように示せばよいかわかりません。
曖昧な質問で申し訳ありません。
お教え願います。

Answer 1

ニューラルネットワークで nx 個の訓練データを使ったときの正答率をa_nとしたとき、

nが大きくなるにつれて、a_(n+1)-a_n が小さくなることを理論的に示すにはどのようにすればいいですか？

すみません。
1．千個のデータを使ったとき、98%とする。二千個のデータを使うと、98%より正答率が上がる。
2．千個のデータと二千個のデータの正答率の差より、二千個のデータと三千個のデータの正答率の差の方が小さい。
ということでしょうか。

それは、成立しないこともあります。用意したデータがどのようなものかによります。学習データが多いと、過学習して実際に使うと正答率が下がることもあります。問題と、学習のために用意したデータ、学習データと実データの差次第です。

Comments

[退会済みユーザー]

恐らくこれについては評価対象データの分布など前提を置いた上で期待値での議論をしないと解決しない・・・というか必ずしも成立しないですよね。

あとNNの正答率ってそもそも何ぞって話も。

[milano]

成立しないこともあると教えていただいて確かにそのとおりだと思いました。
ありがとうございます。