正解率が不安定(高い、引く、急激に上がるなど)

Question

機械学習初心者です...
今回、kerasの使用によって下記のコードを書き、実行できはしたのですが、
その結果である正解率が、毎回毎回安定しません。何が言いたいのかというと、下記の画像をご覧ください。

まず、こちらの上図は、後ほど書くコードの1回目の実行結果です。
そして2回目の実行結果が...↓

この後も4,5回行ったのですが、どれも正解率が極端に高いか、あまり高くないかといった両極端な結果が出てしまい、結果としては謎でしかないです。
これは単純にエポック数が少ないからなのでは？と思い、エポック数を100にした学習も行ったのですが、↓

今度は途中から急に正解率が上がるという謎現象が起き、はっきり言って意味が不明な状況に陥っております。
※kernel Restartといったjupyter におけるリスタート？を行ってもダメでした.
下記にコードを載せますが... 正則化の値だったり、dropoutの値を変えても、この「急に正解率が上がったり、最初から正解率が異様に高かったり、逆に正解率が低かったり」する現象は根本から治りません...。
どなたかもし解決方法が分かるお方がいればぜひお願い致します...。

#l1正則化0.01, dropout=0.5

import keras
from keras.models import Sequential
from sklearn.model_selection import train_test_split
from keras.layers import Dense, Dropout, Activation
import pandas as pd
import numpy as np
from keras.utils import np_utils, to_categorical
from sklearn.metrics import r2_score
from keras import regularizers

import matplotlib.pyplot as plt

from keras.optimizers import Adam, RMSprop
from livelossplot import PlotLossesKeras

from sklearn.model_selection import StratifiedKFold

from keras.callbacks import EarlyStopping
from sklearn.decomposition import PCA
from keras import losses

df = pd.read_excel("---")
df2 = np.array(df, dtype=int)
X = df2[:,0:6]
y = df2[:,[6]]

kfold = StratifiedKFold(n_splits=10, shuffle=True, random_state=5)

for train, test in kfold.split(X, y):
    model = Sequential()
    model.add(Dense(units=6, activation='relu',  input_dim=6,kernel_regularizer=keras.regularizers.l2(0.1),activity_regularizer=regularizers.l1(0.1)))
    model.add(Dropout(0.5))
    model.add(Dense(units=6, activation='relu', input_dim=6,kernel_regularizer=keras.regularizers.l2(0.1),activity_regularizer=regularizers.l1(0.1)))
    model.add(Dropout(0.5))
    model.add(Dense(units=1, activation="sigmoid", input_dim=6))
---for文はここまでです---
    
model.compile(loss=losses.mean_squared_error,optimizer=Adam(lr=1e-4),metrics=['accuracy'])

early_stopping = EarlyStopping(patience=0, verbose=1)

fit = model.fit(X[train],y[train], 
                 epochs=100, batch_size=64,
                validation_split=0.3,callbacks=[early_stopping],verbose=1, shuffle=True)  


loss, accuracy = model.evaluate(X[test], y[test], verbose=0)
print("\nloss:{} accuracy:{}".format(loss, accuracy))


fig, (axL, axR) = plt.subplots(ncols=2, figsize=(10,4))

# loss
def plot_history_loss(fit):
    # Plot the loss in the history
    axL.plot(fit.history['loss'],label="loss")
    axL.plot(fit.history['val_loss'],label="val_loss")
    axL.set_title('model loss')
    axL.set_xlabel('epoch')
    axL.set_ylabel('loss')
    axL.legend(loc='upper right')

# acc
def plot_history_acc(fit):
    # Plot the loss in the history
    axR.plot(fit.history['acc'],label="acc")
    axR.plot(fit.history['val_acc'],label="val_acc")
    axR.set_title('model accuracy')
    axR.set_xlabel('epoch')
    axR.set_ylabel('accuracy')
    axR.legend(loc='upper right')

plot_history_loss(fit)
plot_history_acc(fit)

※目的変数yは0,1のデータ, 説明変数は小数が途中に含まれているため、dtype=int としています。
作業環境 Mac OS 10.13.6 jupyter notebook

Answer 1

コードの問題ではなく, 単純に使用していたデータが不均衡なものでした.
ですので, 正解率ではなくAUCなどの他の評価手法を用いて解決しました.