Q&A
問題もわからない、モデルもわからない、では回答がつくことはないように感じました。
深層学習で損失関数が下がらない理由は何が考えられますか？
特徴量を正規化する前の結果は以下の画像の通りです。
特徴量を正規化した後の結果は以下の画像の通りです。
ちなみに構築した深層学習のモデルは、入力層が23、隠れ層が4つあります。1つの隠れ層あたり216個のニューロンがあり、活性化関数にはReLuを使い、その後ドロップアウト0.5をかませています。
時系列データが将来上昇するか、下降するかの二値分類にしているため、出力のニューロンは2個になっています。
流れとしてはLinear、ReLU、Dropoutの順に繰り返しています。
- リスト損失関数が下がらない理由
- より結果を向上させるための工夫
について、まだ改善できそうなところがあるはずなので、どなたかわかる方がいらっしゃいましたら教えていただきたいです。
> 入力層が23
入力の次元が23であってますか？
当てずっぽうですが、よくあるのは、「回数が10回では足りない、50くらいしたらどうなるか」「学習率がイマイチ2桁くらい小さくしたらどうなるか」「入力データがそもそも間違っていた」です。特に入力データがあってない、は避けたいですので、あらかじめ本当に狙い通りのものが用意できているか中身を確認した方が良いです。
> 時系列データが将来上昇するか、下降するかの二値分類にしている
金融データなのか何なのかわかりませんが、「今のモデルではどうがんばってもうまく二値分類できない」問題（ないものねだり）かもしれません。必ずしもうまくいくとは限らない、くらいの気持ちでほかの方法もないかな、と探る方が良い気もします。
あなたの回答
tips
プレビュー
