ニューラルネットワークのパラメータの最適化でグリッドサーチを用いると、毎回異なる結果が出力されるのはなぜでしょうか？

Question

ニューラルネットワークでのクラス分類を行うのに、パラメータ（隠れ層・最大反復学習回数）の最適化を行おうとしました。最も最適化手法として有効であるのが、交差検証を用いたグリッドサーチと思われたのでGridsearchCVを使ってみました。以下が用いたコードとなります。

import pandas as pd
import numpy as np
from sklearn.model_selection import train_test_split
from sklearn import preprocessing
from sklearn.neural_network import MLPClassifier
from sklearn.model_selection import cross_val_score
from sklearn.model_selection import GridSearchCV

#csvファイルの読み込み
df = pd.read_csv('sasayama_2019.csv',
                 encoding = "shift-jis",
                 skiprows = 1,
                 names = ['ID','dummy1','dummy2','dummy3','dummy4','dummy5','dummy6','dummy7','dummy8','dummy9','dummy10','menseki','totiriyou','dummy11','dummy12','0722R','dummy13','0604R','dummy14','0611R','dummy15','0525A','dummy16','0606A','dummy17','0513A','R_avg','A_avg','rorn'])

#使わない列の削除
sasa=df.drop(['dummy1','dummy2','dummy3','dummy4','dummy5','dummy6','dummy7','dummy8','dummy9','dummy10','dummy11','dummy12','dummy13','dummy14','dummy15','dummy16','dummy17'],axis = 1)
sasa = sasa.dropna(how='any')

#説明変数の選択
#Sentinel-1Aの3時期+RADERSAT-2の3時期（列の抽出）
X=sasa.iloc[:,3:9]
#目的変数（土地利用）の設定
y=sasa['totiriyou']

#教師データとテストデータの分割
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=0)

#標準化
scaler = preprocessing.StandardScaler()
scaler.fit(X_train)
X_train = scaler.transform(X_train)
X_test = scaler.transform(X_test)

param_grid = {'hidden_layer_sizes': [(100,100),(10,10),(100,),(10,)],
              'max_iter': [10000,1000,100,10]}

grid_search = GridSearchCV(MLPClassifier(), param_grid, cv=5)
grid_search.fit(X_train, y_train)
print("P.260~")
print("Test set score: {:.2f}".format(grid_search.score(X_test, y_test)))
print("Best parameters: {}".format(grid_search.best_params_))
print("Best cross-validation score: {:.2f}".format(grid_search.best_score_))
print("Best estimator:\n{}".format(grid_search.best_estimator_))

しかし、最適化された結果として出力されるパラメータは毎回異なっていました。なぜこのような結果となっているのか教えていただいてもよろしいでしょうか。

機械学習を始めて間もないため、簡単なことかもしれれませんが、よろしくお願いいたします。

Answer 1

MLPClassifierにもrandom_stateがあるので、設定してみてください。

grid_search = GridSearchCV(MLPClassifier(random_state=0), param_grid, cv=5)

sklearn.neural_network.MLPClassifier — scikit-learn 0.22.1 documentation

Comments

[melo_yuya]

回答ありがとうございます。
random_state=0
とすることで1つのパラメータを指定することが出来ました。
ありがとうございました。