##概要
ニューラルネットワークを利用して、ツイート数から、仮想通貨の価格予測を行うモデルを構築する
##参考にした書籍
ゼロから作るDeep Learning①
ゼロから作るDeep Learning②
ゼロから作るDeep Learning③
##質問
予測がうまくいかない原因がわからない
→どこのコードをどのように変えるといいか助言いただきたいです。
Python
1#勾配降下法で、仮想通貨の価格とツイート数のニューラルネットワークを作る 2#親ディレクトリのファイルをインポート 3#ファイルのダウンロード 4##上記は割愛 5 6#自分のデータを[配列]で代入する 7x = np.array 8x = x1.values 9y = np.array 10y = y1.values 11 12# I:入力層の次元数、H:隠れ層の次元数、O:出力層の次元数 13#bi:バイアス、バイアスは0ベクトルで初期化 14#2層のニューラルネットワークの作成 15I, H, O = 1, 10, 1 16W1 = Variable(0.01 * np.random.randn(I, H)) # Variable(0.01 * np.random.randn(I, H)) 17b1 = Variable(np.zeros(H)) 18W2 = Variable(0.01 * np.random.randn(H, O)) # Variable(0.01 * np.random.randn(H, O)) 19b2 = Variable(np.zeros(O)) 20 21 22#ニューラルネットワークの推論 23def predict(x): 24 #線形変換 25 y = F.linear(x, W1, b1) 26 #活性化関数 27 y = F.sigmoid(y) 28 y = F.linear(y, W2, b2) 29 return y 30 31 32lr = 0.1 #default : 0.2 33iters = 1000 34 35#ニューラルネットワークの学習 36for i in range(iters): 37 y_pred = predict(x) 38 loss = F.mean_squared_error(y, y_pred) 39 40 W1.cleargrad() 41 b1.cleargrad() 42 W2.cleargrad() 43 b2.cleargrad() 44 loss.backward() 45 46 W1.data -= lr * W1.grad.data! 47 b1.data -= lr * b1.grad.data 48 W2.data -= lr * W2.grad.data 49 b2.data -= lr * b2.grad.data 50 if i % 100== 0: 51 print(i) 52 print(loss) 53 54 55# Plot 56plt.scatter(x, y, s=10) 57plt.xlabel('x') 58plt.ylabel('y') 59t = np.arange(10, 1000, 1)[:, np.newaxis] 60y_pred = predict(t) 61plt.plot(t, y_pred.data, color='r') 62plt.show()
##使用データのプロットとニューラルネットワーク の推論の結果
##試したこと
・lr (学習率)の変更
・多重パーセプトロン、勾配降下法、optimizerへの予測を行う
→結果は変わらず
・相関関係のあるDBを作って、上記同様のコードで行ったが赤線がうまくプロットされなかった
あなたの回答
tips
プレビュー