質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
86.02%
深層学習

深層学習は、多数のレイヤのニューラルネットワークによる機械学習手法。人工知能研究の一つでディープラーニングとも呼ばれています。コンピューター自体がデータの潜在的な特徴を汲み取り、効率的で的確な判断を実現することができます。

NumPy

NumPyはPythonのプログラミング言語の科学的と数学的なコンピューティングに関する拡張モジュールです。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

統計

統計は、集団現象を数量で把握することです。また、調査で得られた性質や傾向を数量的に表したデータのことをいいます。

Q&A

解決済

多項式回帰の実装について(「Pythonで動かして学ぶ!あたらしい数学の教科書 機械学習・深層学習に必要な基礎知識」7章)

yutatayu
yutatayu

総合スコア1

深層学習

深層学習は、多数のレイヤのニューラルネットワークによる機械学習手法。人工知能研究の一つでディープラーニングとも呼ばれています。コンピューター自体がデータの潜在的な特徴を汲み取り、効率的で的確な判断を実現することができます。

NumPy

NumPyはPythonのプログラミング言語の科学的と数学的なコンピューティングに関する拡張モジュールです。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

統計

統計は、集団現象を数量で把握することです。また、調査で得られた性質や傾向を数量的に表したデータのことをいいます。

1回答

0グッド

0クリップ

1362閲覧

投稿2021/04/27 09:28

編集2021/04/27 13:51

前提・実現したいこと

「Pythonで動かして学ぶ!あたらしい数学の教科書 機械学習・深層学習に必要な基礎知識」
我妻 幸長 著
https://www.shoeisha.co.jp/book/detail/9784798161174

7章にある多項式回帰のソースコードで、sin波にノイズを与えた数値に対する予測値を算出したいと考えています。

Pythonにて多項式回帰を実装中に以下のRuntimeWarningが発生しました。
どの様に修正すれば多項式回帰が実装できるのか、わかる方がいらっしゃればご返答をお願いいたします。

発生している問題

tarminal

1---1次多項式--- 2[0.00096211 0.32482469] 3---3次多項式--- 4testplot1.py:52: RuntimeWarning: overflow encountered in double_scalars 5 grad_ps[i] += ( polynomial(X[j],params) - T[j] )*(X[j]**i) #siki7 6testplot1.py:42: RuntimeWarning: invalid value encountered in double_scalars 7 poly += params[i]*(x**i) #siki1 8[nan nan nan nan] 9---6次多項式--- 10testplot1.py:52: RuntimeWarning: overflow encountered in double_scalars 11 grad_ps[i] += ( polynomial(X[j],params) - T[j] )*(X[j]**i) #siki7 12testplot1.py:52: RuntimeWarning: invalid value encountered in double_scalars 13 grad_ps[i] += ( polynomial(X[j],params) - T[j] )*(X[j]**i) #siki7 14[nan nan nan nan nan nan nan]

該当のソースコード

Python

1import random 2import numpy as np 3import math 4import matplotlib.pylab as plt 5 6##------------多項式-------------## 7def polynomial(x,params): 8 poly=0 9 for i in range(len(params)): 10 poly += params[i]*(x**i) #siki1 11 12 return poly 13##-------------------------------## 14 15##---------各パラメータの勾配----------## 16def grad_params(X,T,params): 17 grad_ps=np.zeros(len(params)) 18 for i in range(len(params)): 19 for j in range(len(X)): 20 grad_ps[i] += ( polynomial(X[j],params) - T[j] )*(X[j]**i) #siki7 21 #print(grad_ps[i]) 22 23 return grad_ps 24##------------------------------------## 25 26##--------------学習--------------## 27def fit(X,T,degree,epoch): 28 #degree; 多項式の次数 epoch: 繰り返し回数 29 30 #--パラメータの初期設定-- 31 params = np.random.randn(degree+1) 32 for i in range(len(params)): 33 params[i] *= 2**i #高次の項ほどパラメータを大きくする 34 35 #--パラメータの更新-- 36 eta = 0.01 #学習係数 37 for i in range(epoch): 38 params -= eta * grad_params(X,T,params) #siki4 39 print(params) 40 return params 41##--------------------------------## 42 43##-------------結果の表示-------------## 44if __name__ == '__main__': 45 X = np.linspace(-np.pi,np.pi) 46 T = np.sin(X) 47 T += 0.4*np.random.randn(len(X)) 48 degrees = [1,3,6] 49 for degree in degrees: 50 try: 51 print("---" + str(degree) + "次多項式---") 52 params_ = fit(X,T,degree,1000) 53 Y=polynomial(X,params_) 54 plt.scatter(X,T) 55 plt.plot(X,Y,linestyle="dashed") 56 plt.show() 57 except Exception as e: 58 print("ex " + str(e)) 59##-----------------------------------##

試したこと

fit関数の第三引数epochを1000から10に引き下げると以下のように実行されました。

params_ = fit(X,T,degree,1000)

↓変更

params_ = fit(X,T,degree,10)

tarminal

1---1次多項式--- 2[-0.00464317 0.14836511] 3---3次多項式--- 4[ 5.78847862e+09 -1.02672982e+18 3.49269078e+10 -7.49944791e+18] 5---6次多項式--- 6[-7.96357988e+45 -8.98231804e+36 -6.34400671e+46 -7.15525784e+37 7 -5.31673196e+47 -5.99646957e+38 -4.60692789e+48]

とても大きな値がparams_に入力されているように伺えます。

補足情報(FW/ツールのバージョンなど)

numpy 1.20.2
matplotlib 3.4.1
Python 3.8.5

以下のような質問にはグッドを送りましょう

  • 質問内容が明確
  • 自分も答えを知りたい
  • 質問者以外のユーザにも役立つ

グッドが多くついた質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

気になる質問をクリップする

クリップした質問は、後からいつでもマイページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

下記のような質問は推奨されていません。

  • 間違っている
  • 質問になっていない投稿
  • スパムや攻撃的な表現を用いた投稿

適切な質問に修正を依頼しましょう。

meg_

2021/04/27 12:19

> Pythonにて多項式回帰を実装中に以下のエラーメッセージが発生しました。 エラーメッセージが見当たらないようですがどんなエラーでしょうか?
yutatayu

2021/04/27 13:40 編集

---1次多項式--- [0.00096211 0.32482469] ---3次多項式--- testplot1.py:52: RuntimeWarning: overflow encountered in double_scalars grad_ps[i] += ( polynomial(X[j],params) - T[j] )*(X[j]**i) #siki7 testplot1.py:42: RuntimeWarning: invalid value encountered in double_scalars poly += params[i]*(x**i) #siki1 [nan nan nan nan] ---6次多項式--- testplot1.py:52: RuntimeWarning: overflow encountered in double_scalars grad_ps[i] += ( polynomial(X[j],params) - T[j] )*(X[j]**i) #siki7 testplot1.py:52: RuntimeWarning: invalid value encountered in double_scalars grad_ps[i] += ( polynomial(X[j],params) - T[j] )*(X[j]**i) #siki7 [nan nan nan nan nan nan nan] ------------------------------------------------------------------------ ---3次多項式--- 52: RuntimeWarning: overflow encountered in double_scalars 42: RuntimeWarning: invalid value encountered in double_scalars ---6次多項式--- 52: RuntimeWarning: overflow encountered in double_scalars 52: RuntimeWarning: invalid value encountered in double_scalars 訂正いたします。 上記、3次多項式、6次多項式の設定にて実行した場合 52行目および42行目にて「overflow」、「 invalid value」のRuntimeWarningが発生します。 params_にとても大きな値が入ってしまい、[nan...]が表示されてしまいます。

回答1

1

ベストアンサー

質問のコードは書籍のサイトからダウンロードできるサンプルコードと同じものでしょうか?
書籍を持っていないのでそちらを見ての回答となります。

下記が抜けているようです。

python

1X /= np.pi #収束しやすくするため、Xの範囲を-1から1の間に収める

投稿2021/04/28 00:24

meg_

総合スコア9746

yutatayu👍を押しています

良いと思った回答にはグッドを送りましょう。
グッドが多くついた回答ほどページの上位に表示されるので、他の人が素晴らしい回答を見つけやすくなります。

下記のような回答は推奨されていません。

  • 間違っている回答
  • 質問の回答になっていない投稿
  • スパムや攻撃的な表現を用いた投稿

このような回答には修正を依頼しましょう。

回答へのコメント

yutatayu

2021/04/28 13:43

ありがとうございました。 piでXを割る操作が抜けていました。 ご返答ありがとうございました。

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
86.02%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問

同じタグがついた質問を見る

深層学習

深層学習は、多数のレイヤのニューラルネットワークによる機械学習手法。人工知能研究の一つでディープラーニングとも呼ばれています。コンピューター自体がデータの潜在的な特徴を汲み取り、効率的で的確な判断を実現することができます。

NumPy

NumPyはPythonのプログラミング言語の科学的と数学的なコンピューティングに関する拡張モジュールです。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

統計

統計は、集団現象を数量で把握することです。また、調査で得られた性質や傾向を数量的に表したデータのことをいいます。