[訓練データの作成]
(https://torina.top/detail/334/)
以下のように実行したらDATA.pklという名前でファイルが作成されると予想したのですが、Finderで調べてもどこにもDATA.pklというファイルはありませんでした。そういうものなのでしょうか?
#Load_Data.py import os import pickle import numpy as np from PIL import Image class LoadMnistImage: def __init__(self): """初期化処理""" self.train_img = None self.train_label = None self.test_img = None self.test_label = None def get_data(self, DATA_file, normalize=False, flatten=False, one_hot_label=True): #def get_data(self, DATA_file, Coror=True,normalize=False, #flatten=False,one_hot_label=True): """既に作成したpickleファイルからデータを読み込む(なければ作成する)""" if not os.path.exists(DATA_file): self.create_data(DATA_file) with open(DATA_file,'rb') as f: dataset = pickle.load(f) self.train_img = dataset['train_img'] self.train_label = dataset['train_label'] self.test_img = dataset['test_img'] self.test_label = dataset['test_label'] #if Coror: #self.to_gray() if flatten: self.to_flatten() if normalize: self.to_normalize() if not one_hot_label: self.no_hot_label() def to_flatten(self): """画像を1次元にする (100, 100) →(10000,)""" self.train_img = self.train_img.reshape(len(self.train_img), 10000) self.test_img = self.test_img.reshape(len(self.test_img), 10000) #def to_gray(self): #self.train_img = self.train_img.convert("L") #self.test_img = self.test_img.convert("L") def to_normalize(self): """画像のピクセル値を0.0~1.0に正規化する""" self.train_img = self.train_img.astype(np.float32) / 255.0 self.test_img = self.test_img.astype(np.float32) / 255.0 def no_hot_label(self): """one_hot表現をなくす""" self.train_label = self.train_label.argmax(axis=1) self.test_label = self.test_label.argmax(axis=1) def create_data(self, DATA_file): """画像・ラベルを読み込み、pickleとして作成・保存する""" train_img, train_label, test_img, test_label = [], [], [], [] # trainディレクトリの画像はtrain_img, train_labelへ # testディレクトリはtest_img, test_labelへ kinds = [ ['train', train_img, train_label], ['test', test_img, test_label], ] for kind in kinds: # このiはディレクトリ名であると同時に、正解ラベル名 for i in range(4): # mnist_png/training/0 等のパス dir_path = os.path.join('gazoフォルダの絶対パス', kind[0], str(i)) # [mnist_png/training/0/1.png, mnist_png/training/0/2.png]等のリスト file_paths = [os.path.join(dir_path, file) for file in os.listdir(dir_path)] # [[画像のnumpy配列], [画像のnumpy配列], ...])のような2次元配列 images = [np.asarray(Image.open(path)).reshape(1, 100, 100) for path in file_paths] kind[1].extend(images) # ディレクトリ名のiが、そのまま正解ラベル名なので、1を入れる label = [0, 0, 0, 0, 0, 0, 0, 0, 0, 0] label[i] = 1 labels = [label for x in file_paths] kind[2].extend(labels) dataset = { 'train_img': np.array(train_img), 'train_label': np.array(train_label), 'test_img': np.array(test_img), 'test_label': np.array(test_label), } with open(DATA_file, 'wb') as f: pickle.dump(dataset, f, -1)
workはgazo,Load_Data.py,
gazoはtrain,test,
trainとtestはそれぞれに複数のjpg画像が入った0,1,2,3フォルダを内包。
またサイトのままだとエラーが出てしまったので(RBGで3×100×100?)と考えて、自分でグレースケールに変換してみた(#をつけたところです)のですが、エラーメッセージも変わらず、解決できなかったので解決したいです。
images = [np.asarray(Image.open(path)).reshape(3, 100, 100) for path in file_paths]に変更すると動きましたがその後の操作でエラーが出てしまうので1のまでやりたいです。
実行コード
In []: run LoadData.py In []: mnist = LoadMnistImage() ...: mnist.get_data('DATA.pkl') ...: x_train = mnist.train_img ...: t_train = mnist.train_label ...: x_test = mnist.test_img ...: t_test = mnist.test_label ...:
ValueError Traceback (most recent call last) <ipython-input-88-e0b16a9c0f89> in <module> 1 mnist = LoadMnistImage() ----> 2 mnist.get_data('DATA.pkl') 3 x_train = mnist.train_img 4 t_train = mnist.train_label 5 x_test = mnist.test_img ~/work/LoadData.py in get_data(self, DATA_file, Coror, normalize, flatten, one_hot_label) 20 21 if not os.path.exists(DATA_file): ---> 22 self.create_data(DATA_file) 23 24 dataset = pickle.load(f) ~/work/LoadData.py in create_data(self, DATA_file) 87 for file in os.listdir(dir_path) if file != '.DS_Store'] 88 # [[画像のnumpy配列], [画像のnumpy配列], ...])のような2次元配列 ---> 89 images = [np.asarray(Image.open(path)).reshape(1, 100, 100) for path in file_paths] 90 kind[1].extend(images) 91 ~/work/LoadData.py in <listcomp>(.0) 87 for file in os.listdir(dir_path) if file != '.DS_Store'] 88 # [[画像のnumpy配列], [画像のnumpy配列], ...])のような2次元配列 ---> 89 images = [np.asarray(Image.open(path)).reshape(1, 100, 100) for path in file_paths] 90 kind[1].extend(images) 91 ValueError: cannot reshape array of size 30000 into shape (1,100,100)
変なことを言っていたらすみません。よろしくお願いします。