自作画像を使用してTensorFlowの公式サイト（画像認識）を最初から実装したい。

Question

TensorFlowビギナーです。
自作画像を使用して、以下のTensorFlowの公式サイトを最初から実装したいと考えています。

はじめてのニューラルネットワーク：分類問題の初歩

現在、自作画像を以下のTensorFlowの公式サイト「(image, label)のペアのデータセット」の項目まで、一応実行ました。
自作画像は、以下「3」のようなpng画像達です。

tf.dataを使って画像をロードする

質問は2点です。
1．上記まで用意した自作画像データで（MNISTを自作画像データに代えて）公式プログラムを実行できる？かどうか
2．1でOKな場合、どのようにすれば、以下のプログラムのように割り当てられるか？

(train_images, train_labels), (test_images, test_labels) = fashion_mnist.load_data()

ざっくりとした質問で申し訳ございません。
しかし、これからのアプローチがなかなか思いつきません。
どなたか、アドバイスをお願いしてもよろしいでしょうか。

以前、以下の質問させていただき、回答者様のおかげで、ここまでは何とか確認できています。まだ結果のグラフを表示させることができていませんが。。

TensorFlowの公式サイトのプログラムを使って自分の手書き画像を予測したい

■環境
python ver.3.8.1
tensorflow ver.2.0.0

以上、どうぞよろしくお願いいたします。

Answer 1

写経から一歩進んだコーディングを楽しんでいるころと思います。

1．上記まで用意した自作画像データで（MNISTを自作画像データに代えて）公式プログラムを実行できる？かどうか

できます。
TFやKERASのバージョンにもよりますが大方こんな感じの処理がされています。これを自前で差し替えればよいですね。この場合は解凍してnumpy arrayにしていますので、画像を読み込んで同じ形式の
numpy arrayを自前で用意したら動くようになります。

2．1でOKな場合、どのようにすれば、以下のプログラムのように割り当てられるか？

まずは、print(train_images.shape)やprint(train_labels.shape)から始めましょう。データの形式が分かるはずです。この形式に沿って、画像であればcv2.imread()などで画像を読み込み、numpy arrayに束ねることになります。フォルダごとにラベルを割り振ればフォルダ名(の数字)でtrain_labelsがそのまま使えるようになりますね。フォルダの中身をさらう方法も必要になってくると思います。

分からないことがありましたら質問かこちらにコメントください。

Comments

[51sep]

ご回答をありがとうございます！
恥ずかしながら、写経のくせは続いておりまして、先駆者様方のプログラムを見ては混乱しております。
すみませんが、お言葉に甘えまして、またコメントさせて頂きました。
現状、以下の問題でハマってしまいました。もしよろしければ、アドバイスをお願いしてもよろしいでしょうか。

以下のフォルダの構造でフォルダ番号を正解ラベル？（正解クラス？）として100個のpng画像を80：20に分けたいと思います。（1～0まで10フォルダ、1フォルダ10個のpng）

photos/
1/
1_01.png
1_02.png
…
2/
2_01.png
2_02.png
…

色々なサイトを見ながら試行錯誤して以下まで来ました。
train_images, valid_images, train_labels, valid_labels = train_test_split(v_image, v_label, test_size=0.20)
train_images.shape
#(80, 28, 28, 3)
print(train_labels)
# [[0. 0. 0. 0. 1. 0. 0. 0. 0. 0.]　…　…

以下の2つの問題でストップしています。。
・形状を（XX,28,28）にしたいのですが、やはりうまくいきません。
・画像の正解ラベル？（正解クラス？）がうまく表示されません。
→上記のような変換した表示になってしまいます。以下の公式プログラムをplt.xlabel([train_labels[i]])にしただけです。

plt.figure(figsize=(10,10))
for i in range(5):
plt.subplot(5,5,i+1)
plt.xticks([])
plt.yticks([])
plt.grid(False)
plt.imshow(train_images[i], cmap=plt.cm.binary)
plt.xlabel([train_labels[i]])
plt.show()

ちなみに、fashion_mnist.pyも見てみましたが、以下のErrorで確認できませんでした。
ModuleNotFoundError: No module named 'tensorflow.python.keras._impl'

[退会済みユーザー]

shapeの件は少し時間をください。
エラーの件は以下のURLの最後のコメントを参照ください。たぶん解決できます。
https://github.com/tensorflow/tensorflow/issues/9076

[51sep]

ご回答をありがとうございます。
取り急ぎ、エラーの件は解消いたしましたので、ご連絡しておきします。
本当になんとお礼を言ったらよいのやら。。

[退会済みユーザー]

> ・形状を（XX,28,28）にしたいのですが、やはりうまくいきません。
(画像インデックス,28,28)でグレースケールにしたいということでしょうか？
NNにつっこむときは、グレースケールであっても(80, 28, 28,1)にしないといけなかったと思います。

また、現状が(80, 28, 28, 3)であれば、80枚の28px四方の画像（カラー3ch）が正常に読み込めているようです。

> ・画像の正解ラベル？（正解クラス？）がうまく表示されません。
print([train_labels[i])をすると正解の情報[0. 0. 0. 0. 1. 0. 0. 0. 0. 0.]が見えるはずです。
ここから、print(np.argmax(train_labels[i]))とすると、train_labels[i]の最大値のインデックスーー上記で言えば４が返ってきます。
もし、ラベルの説明が入ったリストcat_name=["Cat A","Cat B","Cat D","Cat E", "Cat F", ..., "Cat J"]があらかじめ定義されていたらprint(cat_name[np.argmax(train_labels[i])])とすれば、インデックス４の”Cat E”が返ってきます。

こんな感じでいかがでしょうか？

[51sep]

ご回答をありがとうございます。
できました！。上記、2点の疑問点を解消できました。（結果の正確度はサンザンでしたが）

1点目はご指示の通り、読み込めていて、(80, 28, 28,1)してから
np.squeeze(train_images)で(80, 28, 28)にしてOKとなりました。
2点目もご指示の通りで、いずれのケースも確認できました。
（回答がドンピシャすぎて、、息をのみました）

正確度を上げるという点ではまだまだですが、まず一歩進めてほっとしました。
本当にどうもありがとうございました。