XGBoostの分類での「name 'gamma' is not defined」エラー対処方法

Question

1.前提・実現したいこと
KaggleチュートリアルTitanicについて、OptunadeXGBoost分類をしています。
なお、titanic号の乗客のデータセットはKaggleからダウンロードしました。
参考ブログ（下記※）は以下です。
※https://qiita.com/kuroneko-hornet/items/9e3e8ffba75c1dbf11c6「XGBoostをoptunaでチューニングしてtitanicを解く」
上記のコードを、利用させてもらいましたが、エラーが発生します。対処方法をお願いします。

2.発生している問題・エラーメッセージ
３．のソースコード実行で下記のエラーメッセージが発生

NameError: name 'gamma' is not defined

NameError Traceback (most recent call last)
<ipython-input-41-263240bbee7e> in <module>()
----> 1 main()

6 frames
<ipython-input-39-60f9057c5dc4> in objective(df, df_test, y, trial)
5 round_num = trial.suggest_int('round_num',1,30)
6
----> 7 bst = train(df,max_depth,learning_rate,round_num,gamma,min_childe_weigh,subsample,colsample_bytree,alpha,lamb)
8 answer = predict(bst,df_test).round().astype(int)
9 score = accuracy_score(answer.round(),y)

NameError: name 'gamma' is not defined

3.該当のソースコード

import pandas as pd
import xgboost as xgb
# optuna
! pip install optuna
import optuna
from functools import partial
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score

def train(df,max_depth,learning_rate,num_round):
    train_x = df.drop('Survived',axis=1)
    train_y = df.Survived
    dtrain = xgb.DMatrix(train_x,label=train_y)
    param = { 'max_depth':max_depth,'learning_rate':learning_rate,'objective':'reg:logistic' }
    bst = xgb.train(param,dtrain,num_round)
    return bst

def preprocess(df):
    df['Fare'] = df ['Fare'].fillna(df['Fare'].mean())
    df['Age'] = df['Age'].fillna(df['Age'].mean())
    df['Embarked'] = df['Embarked'].fillna('Unknown')
    df['Sex'] = df['Sex'].apply(lambda x: 1 if x == 'male' else 0)
    df['Embarked'] = df['Embarked'].map( {'S':0,'C':1,'Q':2,'Unknown':3} ).astype(int)
    df = df.drop(['Cabin','Name','PassengerId','Ticket'],axis=1)
    return df

def predict(bst,df):
    return bst.predict(xgb.DMatrix(df))

def objective(df, df_test, y,trial):
#目的関数
    max_depth = trial.suggest_int('max_depth',1,30)
    learning_rate = trial.suggest_uniform('learning_rate',0.0,1)
    round_num = trial.suggest_int('round_num',1,30)

    bst = train(df,max_depth,learning_rate,round_num,gamma,min_childe_weigh,subsample,colsample_bytree,alpha,lamb)
    answer = predict(bst,df_test).round().astype(int)
    score = accuracy_score(answer.round(),y)
    return 1.0 - score

def main():
    df_original = pd.read_csv("(自分のＰＣのパス/Titanic/train.csv")
    df_test = preprocess(df_original.tail(100))
    df_train = preprocess(df_original.head(791))
    y = df_test['Survived']
    df_test = df_test.drop('Survived',axis=1)

    #optunaの前処理
    obj_f = partial(objective, df_train, df_test, y)
    #セッション作成
    study = optuna.create_study()
    #回数
    study.optimize(obj_f, n_trials=100)

    max_depth = study.best_params['max_depth']
    learning_rate = study.best_params['learning_rate']
    round_num = study.best_params['round_num']

    bst = train(df_train,max_depth,learning_rate,round_num)
    print('\nparams :',study.best_params)
    answer = predict(bst,df_train.drop('Survived',axis=1)).round().astype(int)
    print('train score :',accuracy_score(answer.round(),df_train['Survived']))
    answer = predict(bst,df_test).round().astype(int)
    xgb.plot_importance(bst)
    print('test score :',accuracy_score(answer.round(),y))

#実行
main()

4.自分で調べたことや試したこと
name 'gamma' is not definedを調べたが有用な情報は無し。
gammaは、「gamma（float）–ツリーのリーフノードにさらにパーティションを作成するために必要な最小の損失削減。」とのこと。

5.使っているツールのバージョンなど補足情報
開発環境：Google Colaboratory
プログラム言語：python3
OS：windows10 Home
CPU：Intel(R) Core(TM) i7-7500U CPU@2.70GHz 2.90GHz

Answer 1

方針3(optunaで沢山パラメータチューニング)

bjectice()とmain()については、パラメータ増やすだけなので、コードは省略。

と記載があるので、alpha, gamma などについては、max_depth, learning_rate などと同様のコードを自身で追加する必要があります。

Comments

[kouji_39]

１．以下のように、順に自身で記載させて、エラーは解消しました。
２．しかし、新たに、「train() takes 4 positional arguments but 10 were given」が出ました。
つまり、関数が要求している引数の数と、実際に渡した引数の数が異なるようです。再度、ご教授
いただけたらと思います。
#目的関数
max_depth = trial.suggest_int('max_depth',1,30)
learning_rate = trial.suggest_uniform('learning_rate',0.0,1)
round_num = trial.suggest_int('round_num',1,30)
gamma = trial.suggest_int('gamma',0.0,1.0)
min_childe_weigh = trial.suggest_int('min_childe_weigh',0.0,1.0)
subsample = 1
colsample_bytree = trial.suggest_int('colsample_bytree',0.0,1.0)
alpha = trial.suggest_int('alpha',0.0,1.0)
lamb = 1
bst = train(df,max_depth,learning_rate,round_num,gamma,min_childe_weigh,subsample,colsample_bytree,alpha,lamb)

[8524ba23]

当然train関数も修正する必要があります。

Answer 2

google翻訳
NameError：名前'gamma'が定義されていません

とおっしゃってますよ
そのとおり、どこにも定義されてませんし

Comments

[kouji_39]

回答ありがとうございます。