kerasのfit関数で引数が読み込まれない

Question

kerasでNeural Networkを作成した際のfit関数について質問させていただきます。
やりたいことはtextファイルを読み込んでNeural Networkを学習させたいと考えています。
参考にしているサイトはこちらです。
Kaggleの練習問題（Regression）を解いてKagglerになる

サイト上のデータを変えてやってみたところ以下のエラーがでました。
X_trainが定義されていないと出ていたので、
global変数などにしてみたのですが上手くいきませんでした。
分かる方がいましたら、回答いただけると助かります。
ファイル等は以下に記載しています。

※ご回答いただいた内容に質問させていただくこともあるかと思いますので、
※よろしければご返信いただければと思います。

The above exception was the direct cause of the following exception:

Traceback (most recent call last):
  File "neural_network.py", line 47, in <module>
    main()
  File "neural_network.py", line 44, in main
    reg_d1.fit(X_train, y_train)
  File "/root/anaconda3/lib/python3.7/site-packages/sklearn/model_selection/_search.py", line 688, in fit
    self._run_search(evaluate_candidates)
  File "/root/anaconda3/lib/python3.7/site-packages/sklearn/model_selection/_search.py", line 1149, in _run_search
    evaluate_candidates(ParameterGrid(self.param_grid))
  File "/root/anaconda3/lib/python3.7/site-packages/sklearn/model_selection/_search.py", line 667, in evaluate_candidates
    cv.split(X, y, groups)))
  File "/root/anaconda3/lib/python3.7/site-packages/joblib/parallel.py", line 1016, in __call__
    self.retrieve()
  File "/root/anaconda3/lib/python3.7/site-packages/joblib/parallel.py", line 908, in retrieve
    self._output.extend(job.get(timeout=self.timeout))
  File "/root/anaconda3/lib/python3.7/site-packages/joblib/_parallel_backends.py", line 554, in wrap_future_result
    return future.result(timeout=timeout)
  File "/root/anaconda3/lib/python3.7/concurrent/futures/_base.py", line 432, in result
    return self.__get_result()
  File "/root/anaconda3/lib/python3.7/concurrent/futures/_base.py", line 384, in __get_result
    raise self._exception
NameError: name 'X_train' is not defined

# input_x_train.txt
BED610249 0.968437 1 0.888889 0.810852 0.0602143
BED610250 1 0.990897 0.740741 0.813708 0.0602143
BED610249 0.968437 1 0.962963 0.810852 0.0602143
BED610249 0.968437 1 0.37037 0.810852 0.0602143
BED611364 0.858587 0.0486021 0 0.989455 0.152962
BED611368 0.832594 0 0.222222 0.810633 0.0602143
BED610249 0.968437 1 0.407407 0.810852 0.0602143
BED610247 0 0.995449 0.333333 0.585237 0.0602143
BED610249 0.968437 1 0.555556 0.810852 0.0602143
BED611367 0.853945 0.00894018 0.518519 1 0.152962

# input_y_train.txt
BED610249 33
BED610250 25
BED610249 50
BED610249 1
BED611364 1
BED611368 8
BED610249 2
BED610247 39
BED610249 6
BED611367 34

from keras.models import Sequential
from keras.layers import Dense
from keras.wrappers.scikit_learn import KerasRegressor
from sklearn.model_selection import GridSearchCV
import numpy as	np

def read_file(filename):
    ds_tmp = []
    with open(filename, 'r') as f:
        for i in f:
            txt = i.split()
            del txt[0]
            txt = [ float(s) for s in txt ]
            ds_tmp.append(txt)
        ds = np.array(ds_tmp)
        return ds

def create_model(optimizer='adam'):
    model = Sequential()
    model.add(Dense(X_train.shape[1], input_dim=X_train.shape[1],
                    kernel_initializer='normal', activation='relu'))
    model.add(Dense(16, kernel_initializer='normal', activation='relu'))
    model.add(Dense(1, kernel_initializer='normal'))

    model.compile(loss='mean_squared_error', optimizer=optimizer)
    return model

def main():
    model = KerasRegressor(build_fn=create_model, verbose=0)
    # defin the grid search parameters                                                               
    optimizer = ['SGD', 'Adam']
    batch_size = [10, 30, 50]
    epochs = [10, 50, 100]
    param_grid = dict(optimizer=optimizer, batch_size=batch_size, epochs=epochs)
    reg_d1 = GridSearchCV(estimator=model, param_grid=param_grid, n_jobs=-1)



    x_train_data = read_file("input_x_train.txt")
    y_train_data = read_file("input_y_train.txt")
    X_train = x_train_data[:, :5]
    y_train = y_train_data[:, 5:]/50.0
    #print(X_train)                                                                                  
    reg_d1.fit(X_train, y_train)

if __name__ == '__main__':
    main()

Comments

[meg_]

「model = KerasRegressor(build_fn=create_model, verbose=0)」の文ではエラーは出ていませんか？

[yone_yone]

meg_さん、
指摘された文ではエラーは出ていないようです。

Answer 1

以下のコード修正でエラーが解消されました。
DataFrame型にしたことと、再度global変数を使ってみると解消されました。
自分なりに原因の解明はできていないですが、
おそらく、データの使い方が悪かった可能性が高いです。

from keras.models import Sequential
from keras.layers import Dense
from keras.wrappers.scikit_learn import KerasRegressor
from sklearn.model_selection import GridSearchCV
import numpy as np
import pandas as pd

def read_file(filename):
    ds_tmp = []
    with open(filename, 'r') as f:
        for i in f:
            txt = i.split()
            del txt[0]
            txt = [ float(s) for s in txt ]
            ds_tmp.append(txt)
        ds = np.array(ds_tmp)
        return ds

def create_model(optimizer='adam'):
    
    model = Sequential()
    model.add(Dense(X_train.shape[1], input_dim=X_train.shape[1],
                    kernel_initializer='normal', activation='relu'))
    model.add(Dense(16, kernel_initializer='normal', activation='relu'))
    model.add(Dense(1, kernel_initializer='normal'))

    model.compile(loss='mean_squared_error', optimizer=optimizer)
    return model

def main():
    global X_train
    global y_train
    x_train_data = read_file("input_x_train.txt")
    y_train_data = read_file("input_y_train.txt")
    X_train = x_train_data
    y_train = y_train_data/50.0
    #print(X_train)
    X_train = pd.DataFrame(X_train)
    y_train = pd.DataFrame(y_train)
    #print(X_train)

    model = KerasRegressor(build_fn=create_model, verbose=0)
    # defin the grid search parameters
    optimizer = ['SGD', 'Adam']
    batch_size = [10, 30, 50]
    epochs = [10, 50, 100]
    param_grid = dict(optimizer=optimizer, batch_size=batch_size, epochs=epochs)
    reg_d1 = GridSearchCV(estimator=model, param_grid=param_grid, n_jobs=-1)

    nn = reg_d1.fit(X_train, y_train)
    print(nn)
    
if __name__ == '__main__':
    main()