質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
Jupyter

Jupyter (旧IPython notebook)は、Notebook形式でドキュメント作成し、プログラムの記述・実行、その実行結果を記録するツールです。メモの作成や保存、共有、確認などもブラウザ上で行うことができます。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

解決済

1回答

4507閲覧

sklearnのLinearRegressionの計算方法とscoreの算出の方法について

yu__

総合スコア108

Jupyter

Jupyter (旧IPython notebook)は、Notebook形式でドキュメント作成し、プログラムの記述・実行、その実行結果を記録するツールです。メモの作成や保存、共有、確認などもブラウザ上で行うことができます。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0グッド

0クリップ

投稿2019/05/06 13:46

python

1from sklearn.linear_model import LinearRegression 2import mglearn 3 4X, y = mglearn.datasets.load_extended_boston() 5X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=0) 6 7%time lr = LinearRegression().fit(X_train, y_train) 8print(f"training dataに対しての精度: {lr.score(X_train, y_train):.2}") 9print(f"test dataに対しての精度: {lr.score(X_test, y_test):.2}")

上記を実行したところ、以下のような出力が得られました。

Wall time: 86.7 ms training dataに対しての精度: 0.95 test dataに対しての精度: 0.61

ここでlrというインスタンスに対してscoreというメソッドを用いて精度を求めましたが、ここでのスコアの値は決定係数的であることは分かるのですが、正確には何であるかがわかりません。
https://github.com/scikit-learn/scikit-learn/blob/7b136e9/sklearn/linear_model/base.py#L362
に詳しいことが書かれているということは分かるのですが、難しくて諦めてしまいました。

詳しい方がいれば教えて頂けると恐縮です。
また、スクリプト上のどこにか書かれてあるか教えて頂けるとなおのこと嬉しいです。

また、X_trainを説明変数として学習をしているのですが、このモデルを作ると時どのようなアルゴリズムで動いているのでしょうか?(一般逆行列を解いて導出しているなどなど)
こちらに関しても分かる方がいれば教えて頂けると恐縮です。
(スクリプトの場所まで教えて頂ければなお嬉しいです。)

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

ベストアンサー

ドキュメントを見ましょう。

he coefficient R^2 is defined as (1 - u/v), where u is the residual sum of squares ((y_true - y_pred) ** 2).sum() and v is the total sum of squares ((y_true - y_true.mean()) ** 2).sum().

https://scikit-learn.org/stable/modules/generated/sklearn.linear_model.LinearRegression.html#sklearn.linear_model.LinearRegression.score

wikipediaで一般的とされている決定係数と同じものです。

https://ja.wikipedia.org/wiki/%E6%B1%BA%E5%AE%9A%E4%BF%82%E6%95%B0


どのようなアルゴリズムで動いているのでしょうか?

実装としては(いろいろあるけど)基本的にはscipyのlinalg.lstsqに丸投げされると思います(疎行列型でない場合)。

https://github.com/scikit-learn/scikit-learn/blob/7b136e9/sklearn/linear_model/base.py#L485

そしてscipyはLAPACKに投げています。

https://docs.scipy.org/doc/scipy/reference/generated/scipy.linalg.lstsq.html

デフォルトの動作の説明はこれだと思いますが、あまり自信がないし私自身理解できていないので、参考程度に。

https://www.nag.co.uk/numeric/FL/nagdoc_fl26/pdf/f08/f08kcf.pdf

投稿2019/05/06 14:05

hayataka2049

総合スコア30933

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

yu__

2019/05/07 08:28

決定係数の話については極めて分かりやすく書いてありました。ありがとうございます。 linalg.lstsqには行列の一般逆行列を解いているんだと思います。詳しくは分かりませんでしたが、 また、LAPACKとは何でしょうか?
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問