kerasでのData Augmentationによるデータ数の変化の理由がわかりません。

Question

現在、直感DeepLearningでKerasの勉強をしております。

CIFAR-10をData Augmentationをもちいて学習しました。

入力画像が60000件で、
訓練データ40000,
検証データ10000,
テストデータ10000,としています。

DataAugmentationを用ない場合は40000件で訓練を行っている過程がverbose=1により見えたのですが、
用いた場合はなぜか1epochあたり312件のようで、計算が合いませんでした。

以下がコードになります。

import os
import keras
from keras.models import Sequential
from keras.layers.convolutional import Conv2D
from keras.layers.convolutional import MaxPooling2D
from keras.layers.core import Activation
from keras.layers.core import Flatten,Dropout,Dense
from keras.datasets import cifar10
from keras.optimizers import RMSprop
from keras.callbacks import TensorBoard,ModelCheckpoint
import numpy as np
from keras.preprocessing.image import ImageDataGenerator
os.environ['KMP_DUPLICATE_LIB_OK']='TRUE'

def network(input_shape,num_classes):
    model=Sequential()
    model.add(Conv2D(32,kernel_size=3,padding="same",input_shape=input_shape,activation="relu"))
    model.add(Conv2D(32,kernel_size=3,activation="relu"))
    model.add(MaxPooling2D(pool_size=(2,2)))
    model.add(Dropout(0.25))
    model.add(Conv2D(64,kernel_size=3,padding="same",input_shape=input_shape,activation="relu"))
    model.add(Conv2D(64,kernel_size=3,activation="relu"))
    model.add(MaxPooling2D(pool_size=(2,2)))
    model.add(Dropout(0.25))
    model.add(Flatten())
    model.add(Dense(512,activation="relu"))
    model.add(Dropout(0.25))
    model.add(Dense(num_classes))
    model.add(Activation("softmax"))
    return model
class CIFAR10Dataset():

    def __init__(self):
        self.image_shape=(32,32,3)
        self.num_classes=10
    def get_batch(self):
        (x_train,y_train),(x_test,y_test)=cifar10.load_data()
        x_train,x_test=[self.preprocess(d) for d in [x_train,x_test]]
        y_train,y_test=[self.preprocess(d,label_data=True) for d in [y_train,y_test]]

        return x_train,y_train,x_test,y_test
    def preprocess(self,data,label_data=False):
        if label_data:
            data=keras.utils.to_categorical(data,self.num_classes)
        else:
            data=data.astype("float32")
            data/=255
            shape=(data.shape[0],)+self.image_shape
            data=data.reshape(shape)
        return data

class Trainer():
    def __init__(self,model,loss,optimizer):
        self._target=model
        self._target.compile(loss=loss,optimizer=optimizer,metrics=["accuracy"])
        self.verbose=1
        self.log_dir=os.path.join(os.path.dirname("__file__"),"logdir")
        self.model_file_name="model_file.hdf5"

    def train(self,x_train,y_train,batch_size,epochs,validation_split):
        if os.path.exists(self.log_dir):
            import shutil
            shutil.rmtree(self.log_dir)
        os.mkdir(self.log_dir)
        datagen=ImageDataGenerator(featurewise_center=False,samplewise_center=False,featurewise_std_normalization=False,samplewise_std_normalization=False,zca_whitening=False,rotation_range=0,width_shift_range=0.1,height_shift_range=0.1,horizontal_flip=True,vertical_flip=False)
        datagen.fit(x_train)

        indices=np.arange(x_train.shape[0])
        np.random.shuffle(indices)
        validation_size=int(x_train.shape[0]*validation_split)#50000*0.2=10000
        x_train,x_valid=x_train[indices[:-validation_size],:],x_train[indices[-validation_size:],:]
        y_train,y_valid=y_train[indices[:-validation_size],:],y_train[indices[-validation_size:],:]
        self._target.fit_generator(datagen.flow(x_train,y_train,batch_size=batch_size),steps_per_epoch=x_train.shape[0]//batch_size,epochs=epochs,validation_data=(x_valid,y_valid),callbacks=[TensorBoard(log_dir=self.log_dir),ModelCheckpoint(os.path.join(self.log_dir,self.model_file_name),save_best_only=True)],verbose=self.verbose,workers=4)
        # self._target.fit(x_train,y_train,batch_size=batch_size,epochs=epochs,validation_split=validation_split,callbacks=[TensorBoard(log_dir=self.log_dir),ModelCheckpoint(os.path.join(self.log_dir,self.model_file_name),save_best_only=True)],verbose=self.verbose)
dataset=CIFAR10Dataset()

model=network(dataset.image_shape,dataset.num_classes)
x_train,y_train,x_test,y_test=dataset.get_batch()
trainer=Trainer(model,loss="categorical_crossentropy",optimizer=RMSprop())
trainer.train(x_train,y_train,batch_size=128,epochs=15,validation_split=0.2)

score=model.evaluate(x_test,y_test,verbose=0)
print("Test loss:",score[0])

print("Test accuracy:",score[1])

これを実行した結果、次のようにverboseにより表示されました。

Epoch 1/15
312/312 [==============================] - 109s 350ms/step - loss: 1.8359 - accuracy: 0.3368 - val_loss: 1.5714 - val_accuracy: 0.4272
Epoch 2/15
312/312 [==============================] - 99s 319ms/step - loss: 1.4705 - accuracy: 0.4690 - val_loss: 1.5167 - val_accuracy: 0.4696
Epoch 3/15
312/312 [==============================] - 101s 323ms/step - loss: 1.2943 - accuracy: 0.5388 - val_loss: 1.2278 - val_accuracy: 0.5697
Epoch 4/15
312/312 [==============================] - 97s 310ms/step - loss: 1.1646 - accuracy: 0.5857 - val_loss: 0.9974 - val_accuracy: 0.6522

ここが312の理由がわからないです。

Answer 1

そこに表示されている312というのはサンプル数でなく、そのエポックの反復回数です。
各エポックの反復回数は学習データの全サンプル数 / バッチサイズです。
今回の場合、 40000//128=312

追記

そういう仕様ですね。
表示される進捗は fit() で学習した場合はサンプル数、fit_generator() で学習した場合は1エポックあたりの反復回数になります。

import numpy as np
from tensorflow.keras.datasets import mnist
from tensorflow.keras.layers import Conv2D, Dense, Dropout, Flatten, MaxPooling2D
from tensorflow.keras.models import Sequential
from tensorflow.keras.preprocessing.image import ImageDataGenerator
from tensorflow.keras.utils import to_categorical

(x_train, y_train), (x_test, y_test) = mnist.load_data()

x_train = np.reshape(x_train, [-1, 28, 28, 1])
y_train = to_categorical(y_train)
y_test = to_categorical(y_test)

# we train our network using float data
x_train = x_train.astype("float32") / 255
x_test = x_test.astype("float32") / 255

# network parameters
batch_size = 128
hidden_units = 256
data_augmentation = False
epochs = 20
max_batches = len(x_train) / batch_size

model = Sequential()
model.add(Conv2D(32, kernel_size=(3, 3), activation="relu", input_shape=(28, 28, 1)))
model.add(Conv2D(64, (3, 3), activation="relu"))
model.add(MaxPooling2D(pool_size=(2, 2)))
model.add(Dropout(0.25))
model.add(Flatten())
model.add(Dense(128, activation="relu"))
model.add(Dropout(0.5))
model.add(Dense(10, activation="softmax"))
model.compile(loss="categorical_crossentropy", optimizer="sgd", metrics=["accuracy"])

if not data_augmentation:
    print("Not using data augmentation.")
    model.fit(x_train, y_train, epochs=epochs, batch_size=batch_size)
else:
    print("Using real-time data augmentation.")
    datagen = ImageDataGenerator(
        featurewise_center=True,
        featurewise_std_normalization=True,
        rotation_range=20,
        width_shift_range=0.2,
        height_shift_range=0.2,
        horizontal_flip=False,
    )
    datagen.fit(x_train)
    model.fit_generator(datagen.flow(x_train, y_train, batch_size=batch_size))

Comments

[mikan_professor]

ありがとうございます。なるほど、イテレーション数だったということでしょうか。
もう一つお聞きしたいのですが、同じバッチ数でAugmentationしなかった場合、ここの数が40000となっておりました。イテレーション数の場合このときも312になるかと思うのですが、どうしてでしょうか。

[tiitoi]

> 同じバッチ数でAugmentationしなかった場合

そのコードも質問欄に追記できますか？

[tiitoi]

追記:
確認しましたが、そういう仕様ですね。
再現コードを追記しました。

[mikan_professor]

なるほど、ありがとうございました！スッキリしました。