Kerasのmodel.fitにvalidation_dataを入れると学習が異常に遅くなる

Question

Kerasのmodel.fitにvalidation_dataを入れると学習が異常に遅くなります．

model=Sequential()
model.add(Dense(14, activation="tanh", input_dim=6, kernel_regularizer = regularizers.l2(0.03)))
model.add(Dense(1, activation="linear", input_dim=14))
model.compile(loss="mean_squared_error", optimizer=tf.optimizers.Adam(learning_rate=0.02), metrics=[tf.keras.metrics.RootMeanSquaredError()])
num_epoch=300

batch_size=8
history = model.fit(X_train_std, Y_train_std, epochs=num_epoch, batch_size=batch_size, validation_data=(X_val_std, Y_val_std))
これで実行すると約2分ほど学習に時間がかかります．(X_train_stdは(24,6)で，X_val_stdは(5,6)の配列です)

model.fitの部分でvalidation_data=(X_val_std, Y_val_std)を除いた
history = model.fit(X_train_std, Y_train_std, epochs=num_epoch, batch_size=batch_size)
で実行すると学習は6秒程度で終わります．

なぜvalidation_dataを入れるとこんなに時間がかかるのでしょうか．何か対処法はありますでしょうか．

python=3.8
tensorflow-cpu=2.9.1
keras=2.9.0

tensorflowとkerasはバージョンを変えても同じ現象が起こりました．gpuを使用しても同様でした．

Comments

[jbpb0]

> X_train_stdは(5,6)の配列

X_train_std
↓
X_val_std
でしょうか？

[hoto]

そうです。
すみません。

Answer 1

google colabで下記コードを実行して、実行時間を測りました
ハードウェアアクセラレータはNone(CPU)です
実行は一回だけで、複数回測って平均はしてません

import tensorflow as tf
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Dense
from tensorflow.keras import regularizers
import numpy as np
import time


X_train_std = np.random.rand(24,6)
Y_train_std = np.random.rand(24,1)

X_val_std = np.random.rand(5,6)
Y_val_std = np.random.rand(5,1)


model=Sequential()
model.add(Dense(14, activation="tanh", input_dim=6, kernel_regularizer = regularizers.l2(0.03)))
model.add(Dense(1, activation="linear", input_dim=14))

model.compile(loss="mean_squared_error", optimizer=tf.optimizers.Adam(learning_rate=0.02), metrics=[tf.keras.metrics.RootMeanSquaredError()])


num_epoch=300
batch_size=8

history = model.fit(X_train_std, Y_train_std, epochs=num_epoch, batch_size=batch_size, verbose=0, validation_data=(X_val_std, Y_val_std))
start = time.time()
history = model.fit(X_train_std, Y_train_std, epochs=num_epoch, batch_size=batch_size, verbose=0, validation_data=(X_val_std, Y_val_std))
elapsed_time = time.time() - start

start = time.time()
history = model.fit(X_train_std, Y_train_std, epochs=num_epoch, batch_size=batch_size, verbose=0)
elapsed_time2 = time.time() - start

print ("elapsed_time:{0}".format(elapsed_time) + "[sec]")
print ("elapsed_time2:{0}".format(elapsed_time2) + "[sec]")

elapsed_time:5.76010537147522[sec]
elapsed_time2:1.265974521636963[sec]

「validation_data」有りだと遅くはなりますが、2分もかかりませんでした

Comments

[hoto]

私のPCがおかしいんですかね。
少し前まではjbpb0さんと同様に、2分もかかることなく計算出来ていたんですけど。

[hoto]

何か試した方が良いことや確認した方があれば、教えて頂きたいです。