TensorFlowでNNを組んで値推定を行ってますが、読み込みデータ数が増えると出力値が全く予想値がでないです。

Question

前提・実現したいこと

こちらの記事のソースコードを参考にNNを組んで見ました。
異なるデータCSVファイルを40サンプル程度噛ませた際にもあるでたのですが、1000サンプルになると極端に精度がでないというよりも出力値が固まってしまう現象が起きてしまいます。

ニューラルネットワークでプロ野球選手の給与を査定してみる
http://qiita.com/sergeant-wizard/items/9bb45c0850aebca2bc07

より詳細な情報

1000サンプルで行った際に誤差とステップ数のグラフもいくつも線が出て何を指しているか理解できていないので教えていただければ幸いです。

考えられる解決法？
ステップのきざみ幅が大きいか過度学習している状態なのか、データ数を増やしたのみで起こったので、より小さい刻み値にする必要があるのでしょうか？

Answer 1

試行錯誤のために何度も学習スクリプトを実行した影響で、TensorBoardが読み込むログに似たような学習結果がたくさん書き出されたため、グラフが重なっているのではないでしょうか

実行ファイルの同じディレクトリの./data（おそらく自動で作られている）を削除してから再実行してはいかがでしょうか

ソースコードでいうと、学習結果をどこに書き出すかを設定している以下のところです

summary_writer = tf.train.SummaryWriter('data', graph_def=sess.graph_def)

Answer 2

コードはよくわかりませんが、数学的な見方をすると

*参考にされたサイト
X軸(ステップ毎)におけるY軸(loss)の値は対応する"ただひとつの組み合わせ"からなっているようです

*今回の質問
X軸(ステップ毎)におけるY軸(loss)の値は"少なくとも4つ"存在しています。
特にloss_trainのグラフの初めのステップの部分では5つあるようにも見受けられます。

• 30°くらいで規則的に減少していくもの2つ
• 初期にほぼ直角で減少し、以降ほぼ0で推移するもの2つ

それぞれの正体が何か分かるようにすると問題がつかめるかもしれません。
ソースコードから「.add_summary」を探してみてはいかがでしょうか？
本来異なるものに適用するところを同じ名前で中身を挿げ替えながら何回も適用していると思われます。