機械学習の学習過程をmatplotlibで図示したい

Question

import numpy as np
import pandas as pd

import matplotlib.pyplot as plt 

pd.options.display.max_rows = 8
state = np.random.RandomState(1)
# csv からデータ読み込み
names = ['Hue', 'Hue_figures', 'Value', 'Chroma','season']
coloer = pd.read_csv('personal_coloer_data2.csv', header=None, names=names)
df=coloer
label=df[['season']]
data=df[['Hue', 'Hue_figures', 'Value', 'Chroma']]

X=data
T=label


#訓練データとテストデータに分割
from sklearn.model_selection import StratifiedKFold


skf = StratifiedKFold(n_splits=6)
for train_index, test_index in skf.split(X,T):
    print("train_index:", train_index, "test_index:", test_index)
    X_train=X.values[train_index]
    T_train=T.values[train_index]
    X_test=X.values[test_index]
    T_test=T.values[test_index]
    T_train=np.ravel(T_train)
    T_test=np.ravel(T_test)
    T_train_array=np.identity(4)[T_train]
    T_test_array=np.identity(4)[T_test]
    
    epochs=10
    batch_size=120

     #モデル作成        
    from keras.models import Sequential
    from keras.layers import Dense, Activation
    from keras.optimizers import SGD

    model = Sequential()
#入力が４つの特徴、4つのラベルに分類なので出力ユニット4
    model.add(Dense(input_dim=4, units=4))
    model.add(Activation('softmax'))
    model.compile(loss='categorical_crossentropy', optimizer=SGD(lr=0.1),metrics=['accuracy'])
 
#トレーニング
    history=model.fit(X_train, T_train_array, epochs=epochs, batch_size=batch_size,validation_data=(X_test, T_test_array))
 
#学習済みモデルでデータ分類
Y = model.predict_classes(X_test, batch_size=batch_size,)
 

plt.plot(range(1, epochs+1), Y.history['acc'], label="training")
plt.plot(range(1, epochs+1), Y.history['val_acc'], label="validation")
plt.xlabel('Epochs')
plt.ylabel('Accuracy')
plt.legend()
plt.show()

#結果検証
_, T_index = np.where(T_test_array > 0) # to_categorical の逆変換
print()
print('RESULT')
print(Y == T_index)

#エラーコード
'numpy.ndarray' object has no attribute 'history'

Answer 1

学習過程のデータが格納されているのは
model.predict_classes() の戻り値（Y）ではなく、model.fit() の戻り値（history）ではないでしょうか？

ですので

plt.plot(range(1, epochs+1), Y.history['acc'], label="training")
plt.plot(range(1, epochs+1), Y.history['val_acc'], label="validation")

の部分は

plt.plot(range(1, epochs+1), history.history['acc'], label="training")
plt.plot(range(1, epochs+1), history.history['val_acc'], label="validation")

となるかと思います。

---

ただ個人的には、KFoldにて６回学習を繰り返しているにも関わらず、変数historyを毎回上書きしているため、最後の１回のみしか表示することができないのが気になります。

これを解決するためには

historys = []
skf = StratifiedKFold(n_splits=6)
for train_index, test_index in skf.split(X,T):
    print("train_index:", train_index, "test_index:", test_index)
    # (略)
    #トレーニング
    history=model.fit(X_train, T_train_array, epochs=epochs, batch_size=batch_size,validation_data=(X_test, T_test_array))
    historys.append(history)

のようにfit()の戻り値（history）をリストに格納し

fig, ax = plt.subplots(2, 6, figsize=(24,8))
for i, hist in enumerate(historys):
    ax[0,i].plot(hist.history['loss'], 'r-', label='Train')
    ax[0,i].plot(hist.history['val_loss'], 'b-', label='Valid')
    ax[0,i].legend()
    ax[1,i].plot(hist.history['acc'], 'r-', label='Train')
    ax[1,i].plot(hist.history['val_acc'], 'b-', label='Valid')
    ax[1,i].legend()
plt.show()

のようにして６回分まとめて表示すると良いのではないでしょうか

Comments

[yu__ya]

ありがとうございます。グラフの目盛りを揃えたいのですが、どのようにしたらよいでしょうか・・・

[magichan]

ループ内に
ax[0,i].set_ylim(0,100) # 範囲は適当
のように記述して、グラフの Y軸の範囲を設定するとよいかと思います。

[yu__ya]

ありがとうございます！