CNNを用いた2値分類のデータのラベル付けについて

Question

表題の件で質問させてください。
画像データを用いた分類問題の学習をしております。
使用しているフレームワークはkerasです。

以下のリンクを参考にさせていただいています。
Kerasを使って2クラス分類のCNN

その中で以下のコードの部分で訓練データ、検証データの読み込みやサイズ変更を行っていると思うのですが、
class_mode='binary' というパラメータには2値のラベルが必要とあります。

from tensorflow.python.keras.preprocessing.image import ImageDataGenerator

# すべての画像を1/255でスケーリング
train_datagen = ImageDataGenerator(rescale=1./255)
test_datagen = ImageDataGenerator(rescale=1./255)

# ImageDataGeneratorを使ってディレクトリから画像を読み込む
train_generator = train_datagen.flow_from_directory(
    train_dir,                      # ターゲットディレクトリ
    target_size=(120, 40),          # すべての画像サイズを120*40に変更
    color_mode='grayscale',     # ここを追加
    batch_size=20,                  # バッチサイズ
    class_mode='binary')            # binary_crossentropyを使用するため2値のラベルが必要
validation_generator = test_datagen.flow_from_directory(
    validation_dir,
    target_size=(120, 40),
    color_mode='grayscale',
    batch_size=20,
    class_mode='binary')

記事に掲載されているコードがすべてではないのかもしれませんが、
良品、不良品の画像データが混じったtrain_dirからデータを読み込んでいるなかで、
この画像は良品、この画像は不良といった正解ラベルのデータがないように思います。

知識も浅くkeras自体も初めて触るのでわかっていないだけかもしれませんが、画像データに対する正解データの
作成の仕方、また利用方法はどのようにすればよいのでしょうか？

今回のような2値分類であれば0、1で正解は表現できると思うのですが画像を読み込む際に、この画像は0、この画像は1というように割り振るのでしょうか？(これはやり方が想像つきません...)
それとも良品、不良品のデータ数分だけ0の配列、1の配列を作るのでしょうか？(良品、不良品が混じったフォルダからデータを読み出す場合は配列のデータと画像データの紐づけが分かりません...)

かなり的外れな質問をしているかもしれませんがアドバイス宜しくお願い致します。

Answer 1

公式リファレンス を確認するのが一番よいです。

Keras の flow_from_directory は、以下のようなフォルダ構成を仮定しています。
各サブフォルダが1クラスに該当するので、そのクラスの画像を入れておくと読み込んだ際に flow_from_directory() 内でラベル付けしてくれます。

例: 猫、犬、鳥の3クラス分類の場合

dataset
├─cat
│  ├─1.png
│  ├─2.png
│  ...
├─dog
└─bird

from tensorflow.python.keras.preprocessing.image import ImageDataGenerator

train_datagen = ImageDataGenerator(rescale=1./255)

train_generator = train_datagen.flow_from_directory(
    'dataset',
    target_size=(224, 224),  # モデルの入力サイズ
    color_mode='grayscale',  # 読み込み形式
    batch_size=20,  # バッチサイズ
    class_mode='categorical')

例: 良品、不良品の場合

dataset
├─positive: 不良品の画像
│  ├─1.png
│  ├─2.png
│  ...
└─negative: 良品の画像

from tensorflow.python.keras.preprocessing.image import ImageDataGenerator

train_datagen = ImageDataGenerator(rescale=1./255)

train_generator = train_datagen.flow_from_directory(
    'dataset',
    target_size=(224, 224),  # モデルの入力サイズ
    color_mode='grayscale',  # 読み込み形式
    batch_size=20,  # バッチサイズ
    class_mode='binary')

Comments

[---stax---]

回答ありがとうございます。
そういう仕組みになっていたのですね。
回答いただいた例でいうと、catフォルダ内のすべての画像が0、dogフォルダ内のすべての画像が1、birdフォルダ内のすべての画像が2のようなラベルが振られるという理解でよいでしょうか？
そうだとするとdatasetフォルダ内はtrain,validation,testのような階層にしてしまうとtrainが0、validationが1、のようにラベルが振られてしまうということですよね…
以下のような階層にして各flow_from_directory()のターゲットディレクトリをtrainやvalidation、testと個別に指定すればtrainのフォルダ内は0、1でラベルが付き、validationやtestのフォルダ内もそれぞれ0、1が付くという理解でよいでしょうか？
おかしな理解をしていたらすいません。

dataset
├─train
│ ├─ok
│ │ ├─1.png
│ │ ├─2.png
│ │
│ ├─ng
│ 　 ├─1.png
│ 　 ├─2.png
│
├─validation
│ ├─ok
│ │ ├─5.png
│ │ ├─6.png
│ │
│ ├─ng
│ 　 ├─7.png
│ 　 ├─8.png
│
├─test
│ ├─ok
│ │ ├─9.png
│ │ ├─10.png
│ │
│ ├─ng
│ 　 ├─11.png
│ 　 ├─12.png

[tiitoi]

上記のようなフォルダ構成にして、以下のように指定するのが正解なので、その認識であっています。
train_gen = train_datagen.flow_from_directory('dataset/train')
val_gen = train_datagen.flow_from_directory('dataset/validation')
test_gen = train_datagen.flow_from_directory('dataset/test')
フォルダ名がそのままクラス名と解釈されるので、ok, ng という名前は train/validation/test ですべて同じにしてください

[---stax---]

回答ありがとうございます。
内容理解できました。ありがとうございます。
つたない返答で申し訳ありませんでした。
先ほどの返答でのフォルダ階層だとあらかじめtrain,validation,testに画像を分けているのでtrainに何枚、testに何枚というような指定をコード内でする必要はないかと思います。
tiitoi様が追記して頂いた(例: 良品、不良品の場合)のような階層でflow_from_directory()のターゲットディレクトリもdatasetとした場合はすべてのデータがpositiveとnegativeに格納されているので
train,validation,testにそれぞれ割り当てるデータ数を指定する必要があるかと思うのですがこのような場合はどの部分でデータの割り振りを行うのでしょうか？
(パラメータをまだ調べれていないのでそこで指定できるのであればすいません。。。)

[tiitoi]

flow_from_directory() を使うのであれば、23:55 のコメントにあるようなフォルダ構成に予めしておく必要があります。

元のデータセットを以下のような構成にしておいて
├─ok
│ ├─1.png
│ ├─2.png
│
└──ng
　 ├─1.png
　 └─2.png
そこから 23:55 のコメントにあるように train,validation,test を分けるようなスクリプトを書けばいいかと思います。(そこは自分で作る必要がありますが、数行で書ける話かと思います。)

Model クラスにジェネレーターを引数にとる関数があるので、学習時は
fit_generator(train_gen, validation_data=val_gen)
テスト時は
predict_generator(test_gen)
などとジェネレーターを渡してあげます。

[tiitoi]

これまでの話は flow_from_directory() を使うなら ということなので、通常の fit() 関数を使うのであれば、YutaSaito さんが回答くださってるようにデータを読み込んで、ラベル作ってといった処理を自分で書くことになります。

[---stax---]

返答遅くなり申し訳ありません。
アドバイスいただいたとおりに階層を分けると無事に学習開始させることができました。
keras自体の扱い方を勉強しながら進めていきます。
ありがとうございました。

Answer 2

ご推測の通り、識別問題であれば正解ラベルを用意する必要があります。
一般に提供されているデータセットでは、画像とそれに対応する正解がセットとなっているものがほとんどです。

提供されているデータセットなのであれば、答えとなっているファイルがどこかに存在していると思われるので、それを読み込めば大丈夫です。
もしくはフォルダ名が正解になっているのではないでしょうか？

最終的な配列の構造としては

X = [[image1], [image2], ...] #trainもしくはvalidationの入力
Y = [0,1, ...] #正解ラベルの配列
len(X) == len(Y)

となっていることが必須となります。

わかりにくい点があればなんなりと申し付けください

Comments

[---stax---]

回答ありがとうございます。
やはりラベルは必要なのですね。
自分が取り組んでいる内容のデータではOK、NGという画像はありますがラベルデータはないのでフォルダ名をラベルに出来るよう進めてみます。