機械学習のロスが下がらないが精度が上がる場合．

Question

機械学習を用いて二値分類問題を行なっていますが，画像の通りval_lossとlossが徐々に離れていき，過学習の傾向にあると思われるのですが，精度自体は一番良い状態です．このような場合，loss間の幅を下げる必要性の有無，また，その場合の対処法などありましたら教えてください．

以下はプログラムの一部です．

  model.compile(loss='binary_crossentropy',optimizer=RMSprop(lr=learning_rate),metrics=['accuracy'])   #RMSprop
  

  history = model.fit(x, y,batch_size=b_size,epochs=epoch,verbose=1,validation_split=0.2,shuffle=True)

def plot_history(history):
   
    plt.plot(history.history['loss'],"o-",label="loss",)
    plt.plot(history.history['val_loss'],"o-",label="val_loss")
    plt.title('model loss')
    plt.xlabel('epoch')
    plt.ylabel('loss')
    plt.legend(loc='lower right')
    plt.show()
    
plot_history(history)

Comments

[meg_]

> 精度自体は一番良い状態です．
確認ですが"精度"とはテストデータでのaccuracyのことですよね？
"一番良い"とは何に対して"一番"なのでしょうか？

[_sfgh3k]

テストデータでのaccuracyです．

[meg_]

early stoppingしてみてはどうでしょうか？

[_sfgh3k]

ありがとうございます．一度試してみます．

Answer 1

典型的な過学習にみえるので、ある程度の段階で学習をストップするのがよいです