【python（初心者）】メソッドを定義した時の変数の扱い方がわかりません。

Question

機械学習でOptunaというモジュールを使いたいのですが、pythonの基礎的なメソッドや変数の使い方がわからずOptunaを使えません。だれか教えていただけませんでしょうか。
https://qiita.com/koshian2/items/1c0f781d244a6046b83e
を参考にサンプルコードを書いています。

from sklearn.datasets import load_boston
from sklearn.svm import SVR
from sklearn.preprocessing import StandardScaler
from sklearn.model_selection import train_test_split
from sklearn.metrics import mean_squared_error

import optuna
import numpy as np

# 目的関数
def objective(trial):
    # C
    svr_c = trial.suggest_loguniform('svr_c', 1e0, 1e2)
    # epsilon
    epsilon = trial.suggest_loguniform('epsilon', 1e-1, 1e1)
    # SVR
    svr = SVR(C=svr_c, epsilon=epsilon)
    svr.fit(X_train, y_train)
    # 予測
    y_pred = svr.predict(X_val)
    # CrossvalidationのMSEで比較（最大化がまだサポートされていない）
    return mean_squared_error(y_val, y_pred)

if __name__ == '__main__':
    boston = load_boston()
    X, y = boston["data"], boston["target"]
    # 訓練、テスト分割
    X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=114514)
    n_train = int(X_train.shape[0] * 0.75)
    X_train, X_val = X_train[:n_train], X_train[n_train:]
    y_train, y_val = y_train[:n_train], y_train[n_train:]

    # 標準化
    scaler = StandardScaler()
    X_train = scaler.fit_transform(X_train)
    X_val = scaler.transform(X_val)
    X_test = scaler.transform(X_test)

    # optuna
    study = optuna.create_study()
    study.optimize(objective, n_trials=100)

このようにメイン関数の中にメソッドを1つだとobjectiveの中のX_train, y_trainをグローバル変数として？読み取ってくれるようですが、

from sklearn.datasets import load_boston
from sklearn.svm import SVR
from sklearn.preprocessing import StandardScaler
from sklearn.model_selection import train_test_split
from sklearn.metrics import mean_squared_error

import optuna
import numpy as np

# 目的関数
def objective(trial):
    # C
    svr_c = trial.suggest_loguniform('svr_c', 1e0, 1e2)
    # epsilon
    epsilon = trial.suggest_loguniform('epsilon', 1e-1, 1e1)
    # SVR
    svr = SVR(C=svr_c, epsilon=epsilon)
    svr.fit(X_train, y_train)
    # 予測
    y_pred = svr.predict(X_val)
    # CrossvalidationのMSEで比較（最大化がまだサポートされていない）
    return mean_squared_error(y_val, y_pred)

def preprocess():
    X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=114514)
    n_train = int(X_train.shape[0] * 0.75)
    X_train, X_val = X_train[:n_train], X_train[n_train:]
    y_train, y_val = y_train[:n_train], y_train[n_train:]

    # 標準化
    scaler = StandardScaler()
    X_train = scaler.fit_transform(X_train)
    X_val = scaler.transform(X_val)
    X_test = scaler.transform(X_test)
    return X_train,y_train,X_val,y_val,X_test,y_test

def pipeline(X,y):
    [X_train,y_train,X_val,y_val,X_test,y_test]=preprocess()
    # optuna
    study = optuna.create_study()
    study.optimize(objective, n_trials=100)
    return


if __name__ == '__main__':
    boston = load_boston()
    X, y = boston["data"], boston["target"]
    pipeline(X,y)

このように階層的にメソッドを使うとX_trainなどを読み取ってくれません。これはなぜでしょうか。メソッドを階層的にするとX_trainを読み取れないことよりも、1つのメソッドならX_trainを引数として指定しなくても読み取ってくれることが不思議なくらいなのですが。

サンプルコードのようなシンプルなものなら良いのですが、実際にはメソッドを多用せざるを得ない状況があると思います。その場合にメソッドの外からX_trainなどを渡すときにどのようにすればよいのでしょうか。
試しに

def objective(trial,X_train):

などのようにobjectiveにX_trainを渡す形にして

study.optimize(objective([],X_train), n_trials=100)

とするなど試しましたが、空のリストだとOptunaでエラーが出ますし、そもそも無理矢理な感じがあってもっと良い方法があるのではと思っております。
だれか助けていただけませんでしょうか。

Comments

[t_obara]

もう少し基本的な文法を理解されてから、次のステップに進んだ方がよろしいかと感じます。結局この問題が教えてもらった結果クリアできたとして、また別の問題が出た際に結局はご自身で解決できないまま誰かに頼らざるを得ない状況になるのではないでしょうか。
別にOptunaを利用せずとも、
def xxx():
return 1,2,3

[x,y,z] = xxx()
とやってみてどうなるか確認し、コードを修正してみてはいかがでしょうか。

[chain]

疑問をそのまま記述したような質問になってしまい申し訳ありません。Optunaを使う必要はないのはごもっともでいろいろ試しているのですが、参考にしたURLがあった方が具体的でよいかと思いこのような記載にしてしまいました。
基本的な文法の理解を言われるのもごもっともで恐縮ですが、ではこれだけでも教えていただければありがたいのですが、
study.optimize(objective, n_trials=100)
このobjectiveは何という用法なのでしょうか。もともとobjectiveは関数として定義されているのでobjective()とするのではないかと思ってしまうのですが、objectiveは(trial)として定義されたにも関わらずobjectiveとして引数に入ってしまうのがわかりません。
study.optimize(objective([],X_train), n_trials=100)
こういう使い方は全然的外れなんだろうとは思うのですが、どう勉強してよいのかわからないのです。その用法の名前など教えていただければ自習可能と思いますので、可能でしたらヒントをいただけませんでしょうか。

[t_obara]

https://docs.python.org/ja/3.6/reference/compound_stmts.html#function-definitions
関数定義と呼び出しの基本的な文法をご理解してみては？

[chain]

了解しました。ありがとうございます。

[meg_]

関数を引数としているのではないですか？（optimizeの中身は知りませんので中でどう使っているかはわかりません）

[chain]

関数objectiveを引数としているのですが、objectiveの引数にX_traialなどを指定することとうまくいかず苦戦していました。objectiveにtrial以外の変数を指定する方法がとれるのかどうかは調べても結局わかりませんでしたが、pipeline()の中にobjective()を定義することでX_trialを受け取るという別の方法で解決しました。ありがとうございました。

Answer 1

objectiveにtrial以外の変数を指定する方法がとれるのかどうかは調べても結局わかりませんでしたが、pipeline()の中にobjective()を定義することでX_trialを受け取るという別の方法で解決しました。ありがとうございました。