質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
CPU

CPUは、コンピュータの中心となる処理装置(プロセッサ)で中央処理装置とも呼ばれています。プログラム演算や数値計算、その他の演算ユニットをコントロール。スマホやPCによって内蔵されているCPUは異なりますが、処理性能が早いほど良いとされています。

scikit-learn

scikit-learnは、Pythonで使用できるオープンソースプロジェクトの機械学習用ライブラリです。多くの機械学習アルゴリズムが実装されていますが、どのアルゴリズムも同じような書き方で利用できます。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

バリデーション

Validationとは特定の入力データが、求められた条件に当てまっているかをチェックするために使われます。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Q&A

解決済

1回答

2342閲覧

複数CPUでleave-one-outグリッドサーチの時間短縮

iwamoteque

総合スコア10

CPU

CPUは、コンピュータの中心となる処理装置(プロセッサ)で中央処理装置とも呼ばれています。プログラム演算や数値計算、その他の演算ユニットをコントロール。スマホやPCによって内蔵されているCPUは異なりますが、処理性能が早いほど良いとされています。

scikit-learn

scikit-learnは、Pythonで使用できるオープンソースプロジェクトの機械学習用ライブラリです。多くの機械学習アルゴリズムが実装されていますが、どのアルゴリズムも同じような書き方で利用できます。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

バリデーション

Validationとは特定の入力データが、求められた条件に当てまっているかをチェックするために使われます。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

0グッド

1クリップ

投稿2020/01/07 06:15

前提・実現したいこと

回帰アルゴリズムのパラメーター最適化を行っています。
クロスバリデーションをleave-one-outで実行する場合のコードは出来ていますが、実行時間がかかるため、計算に複数CPUを使うようにして時間を短縮したいです。

発生している問題・エラーメッセージ

当該コードではCPU1つのみ作動。並列化を調べて試してみたが未達成。

該当のソースコード

Python

1from sklearn.model_selection import train_test_split 2from sklearn.model_selection import LeaveOneOut 3loo = LeaveOneOut() 4from sklearn.metrics import r2_score, mean_squared_error 5 6#GS関数を定義 7def set_para(model, X, y): 8 X_arr = np.array(X) 9 y_arr = np.array(y) 10 scores = [] 11 for train_val_samples, test_samples in loo.split(X_arr, y_arr): 12 X_train_val, X_test = X_arr[train_val_samples], X_arr[test_samples] 13 y_train_val, y_test = y_arr[train_val_samples], y_arr[test_samples] 14 ytests = [] 15 ypreds = [] 16 for train_samples, val_samples in loo.split(X_train_val, y_train_val): 17 X_train, X_val = X_train_val[train_samples], X_train_val[val_samples] 18 y_train, y_val = y_train_val[train_samples], y_train_val[val_samples] 19 model.fit(X_train, y_train) 20 predicts = model.predict(X_val) 21 ytests += list(y_val) 22 ypreds += list(predicts) 23 score = r2_score(ytests, ypreds) 24 scores.append(score) 25 return scores 26 27#例えばElasticnetの場合 28from sklearn.linear_model import ElasticNet 29for alpha in [0, 0.001, 0.01, 0.1, 1]: 30 for l1_ratio in [0, 0.001, 0.01, 0.1, 1]: 31 values = set_para(ElasticNet(alpha = alpha, l1_ratio = l1_ratio), X, y) 32 33 print(alpha, l1_ratio, np.mean(values)) 34

試したこと

1 GridsearchCVとcross_val_scoreでn_jobs=-1を使用
回帰の場合leave-one-outでR2を出せない

2 Joblibで並列化する(https://qiita.com/Yuhsak/items/1e8533343cf5458e2e08)
参考にしながらコードを追加したがCPU一つだけ作動

補足情報(FW/ツールのバージョンなど)

ここにより詳細な情報を記載してください。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

自己解決

joblibを機能させることで解決できました。
もっとシンプルに記述出来そうな気がするのですが(スキル不足)

python

1def set_para(model, X, y): 2 X_arr = np.array(X) 3 y_arr = np.array(y) 4 scores = [] 5 for train_val_samples, test_samples in loo.split(X_arr, y_arr): 6 X_train_val, X_test = X_arr[train_val_samples], X_arr[test_samples] 7 y_train_val, y_test = y_arr[train_val_samples], y_arr[test_samples] 8 ytests = [] 9 ypreds = [] 10 for train_samples, val_samples in loo.split(X_train_val, y_train_val): 11 X_train, X_val = X_train_val[train_samples], X_train_val[val_samples] 12 y_train, y_val = y_train_val[train_samples], y_train_val[val_samples] 13 model.fit(X_train, y_train) 14 predicts = model.predict(X_val) 15 ytests += list(y_val) 16 ypreds += list(predicts) 17 score = r2_score(ytests, ypreds) 18 scores.append(score) 19 return scores 20 21from joblib import Parallel, delayed 22from sklearn.linear_model import ElasticNet 23 24def func(p_alpha, p_l1_ratio): 25 return p_alpha, p_l1_ratio, set_para(ElasticNet 26 (alpha = p_alpha, l1_ratio = p_l1_ratio), X, y) 27alpha = np.logspace(-2, 4, 24) 28l1_ratio = np.logspace(-2, 4, 24) 29best_result = 0 30values = Parallel(n_jobs=-1, verbose=1)([delayed(func)(p_alpha, p_l1_ratio) 31 for p_alpha in alpha 32 for p_l1_ratio in l1_ratio]) 33#上の計算でvalues[i][0,1,2]が出る。iは総当りのindexつまり個数-1。[0,1,2]はalpha,l1, result 34number_of_value = len(alpha)*len(l1_ratio)-1 35for i in range(number_of_value): 36 result = np.mean(values[i][2]) 37 if result > best_result: 38 best_result = result 39 best_parameters = {'alpha':values[i][0], 'l1_ratio':values[i][1]} 40 41print(best_parameters, best_result) 42

投稿2020/01/22 01:35

iwamoteque

総合スコア10

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問