質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

88.34%

畳み込みニューラルネットによる時系列予測をしたいです!

受付中

回答 0

投稿

  • 評価
  • クリップ 0
  • VIEW 159

0416namazu

score 0

前提・実現したいこと

現在、畳み込み層を使用した時系列予測のモデルを作成しています。
しかし、全結合だけのモデルと比べると格段に精度が落ちます。
色々調べて、重みの初期値、フィルターの大きさ、学習率など変更してみましたが依然、精度は悪いままです。
正規化しているにも関わらず大体二乗和誤差が4.0に収束します。

問題点のご指摘、精度を上げるアドバイスをお願い致します。
初心者の為、わかりやすく教えて貰えると助かります。

当方、プログラミング言語はpythonを使用しております。

具体的に話します。
使用するデータは、全国各地から集めた12年分の月毎の気温データです。
データの個数は約20,000個です。
データの形状は12年×12ヶ月と気温データを並べて(1,12,12)です。

CNNの構造は
1、畳み込み層
(フィルターの数10、フィルターの大きさ5*5、パディング0、ストライド1)
2、pooling層
(2*2のmaxpooling)
3、Relu
4、全結合層
5、Relu
6、全結合
7、恒等関数
と言う具合です。

keras を使用したいのですが、ボスからお達しもあり自作でCNNを作らなければいけません。
構造上や考え方での問題点など、些細なことでもご指摘頂けるとありがたいです。

よろしくお願い致します。

発生している問題・エラーメッセージ

エラーメッセージ

該当のソースコード

ソースコード

試したこと

フィルターの大きさを1、3、5、7、9、11で試しました。
重みの初期値 Relu関数を活性化関数に使用しているためHeの初期値を使用しました。
学習率を0.1、0.01、0.001、0.0001を試しました。
損失関数は二乗和誤差を使用していますが、3.0〜4.0で収束します。

補足情報(FW/ツールのバージョンなど)

ここにより詳細な情報を記載してください。

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 過去に投稿した質問と同じ内容の質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

質問への追記・修正の依頼

  • Surpris

    2021/01/15 00:47

    0416namazu 様
    先ほど提供した情報がお役に立てば幸いです。

    他の方のコメントも拝見して、他に気になったことを2点記します。

    1. 何を予測したいか。
    入力は12年x12か月の気温データで良いとして、何を予測されるのでしょうか。
    例えば 2009年~2020年の12年分のデータを 12x12 の配列データとして入力し、2021年の気温を予測されるのでしょうか。

    2. 約 20,000 個のデータはどういう内訳か。
    全国の約 20,000 箇所の地点のデータが1セットずつあるということでしょうか。
    それとも全国各地のデータが数個以上あり、それらを総合すると 20,000 個前後あるということでしょうか。

    以下、関連記事の共有です。
    もし CNN と RNN を併用されるのであれば、例えば以下の記事が参考になるかもしれません。
    『LSTM/RNNとCNNの組み合わせ(はてなブログ)』:http://neuralnet.hatenablog.jp/entry/2016/07/27/065031
    『【深層学習】CNNとRNNを組み合わせてみた(Qiita)』:https://qiita.com/God_KonaBanana/items/a6ee73cf0110c044815b

    また、すでにご覧になっているかもしれませんが、気候変動や気温の予測に関する記事をいくつか共有いたします。
    『ディープラーニングで気候変動を予測(京大論文の追試)(Qiita)』:https://qiita.com/takedarts/items/e4dffa6f1946361d2098
    『LSTMで1か月の平均気温を予測する(Qiita)』:https://qiita.com/nvtomo1029/items/689c0a19880d1dc41d43
    『[Deep Learning解析] 第二回 天気予報によりRNN(Qiita)』:https://qiita.com/Merdane/items/2c5232681a27a0d340ef

    キャンセル

  • 0416namazu

    2021/01/15 02:22

    Surprisさん
    情報提供本当にありがとうございます!
    本当に助かります^^
    1 : 2009〜2020までので気温データを使用して翌年の気温を予測したいと考えています。
    2 : 全国のデータを総合するとデータ数が約20000こになります。
    予測を高精度に行うには大量のデータが必要だと思いますが、補完と欠損値を除去する処理をするとどうしてもデータ数が減ってしまいます💦

    キャンセル

  • 0416namazu

    2021/01/15 02:24

    ↑1の補足です。
    2008〜2019年など色々なデータを使用して翌年の気温を予測したいと考えています。

    キャンセル

まだ回答がついていません

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 88.34%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

関連した質問

同じタグがついた質問を見る