HDF５ファイルについて（画像データ）

Question

前提・実現したいこと

　Google Colaboratory上でGPUを使ったCNNの学習を行いたいと思っています。しかし、手元にある画像ファイル３万枚について、正常に読み込めずセッションタイムアウトになってしまいます。

試したこと

　色々調べてみた結果、GoogleColaboratoryのよくある質問に「Google ドライブのオペレーションは、フォルダ内のファイル数やサブフォルダ数が増えすぎるとタイムアウトすることがあります。」と書いてありました。そこで、ローカルにある画像データを下記質問参考にHDF５ファイルとしてまとめようとしましたが、いまいちやり方が分からず質問させていただきました。
HDFファイルへの書き込み&HDFファイル化したものから元の画像ファイルとしての読み込み。両方の処理を教えていただければと思います。

https://teratail.com/questions/182393

補足情報（FW/ツールのバージョンなど）

• 実装の際の言語はPython3で考えています。
• 使用ライブラリはh5pyで考えています。
• フォルダ直下の画像ファイルのみをHDFファイルにするプラス正解ラベルについてもgroup化したいと思います。尚、回帰問題ですので正解ラベルがfloat型で数字１つになります。
• 正解ラベルについては、後ほど自分で
• 画像ファイルの格納場所は ./train_images(相対パス)です。
• 正解ラベルの格納場所は ./train.csv（相対パス）です。

Comments

[wakame]

> しかし、手元にある画像ファイル３万枚について、正常に読み込めずセッションタイムアウトになってしまいます。
どのタイミングでセッションアウトされるのでしょうか。質問者さんのGoogle Colaboratoryを公開しても問題ないものであるならば、共有リンクをこちらに貼ってもらえるとすぐ問題を共有できるかなと思いました。

[spider-man]

wakameさん
ご丁寧にありがとうございます！実は仕事の関係上、ノートブックの公開は厳しいかもしれません。。。（本当は詳しい方にチェックして頂きたい気持ちはあるのですが）

具体的な症状は以下の通りです。

1. erroeがでるタイミング
dataloaderからデータを取ってくるところ。尚、該当コードは他の環境では動いている次第です。
```python
for images, targets in dataloader:
```

2. エラーメッセージ
```
AttributeError: Traceback (most recent call last):
File "/usr/local/lib/python3.6/dist-packages/torch/utils/data/_utils/worker.py", line 99, in _worker_loop
samples = collate_fn([dataset[i] for i in batch_indices])
File "/usr/local/lib/python3.6/dist-packages/torch/utils/data/_utils/worker.py", line 99, in <listcomp>
samples = collate_fn([dataset[i] for i in batch_indices])
File "<ipython-input-14-7108891d668a>", line 15, in __getitem__
augmented = self.transforms(image=img, mask=mask)
File "/usr/local/lib/python3.6/dist-packages/albumentations/core/composition.py", line 171, in __call__
data = t(**data)
File "/usr/local/lib/python3.6/dist-packages/albumentations/core/transforms_interface.py", line 28, in __call__
params = self.update_params(params, **kwargs)
File "/usr/local/lib/python3.6/dist-packages/albumentations/core/transforms_interface.py", line 68, in update_params
params.update({'cols': kwargs['image'].shape[1], 'rows': kwargs['image'].shape[0]})
AttributeError: 'NoneType' object has no attribute 'shape'
```

このメッセージを見て、おそらく正しく画像ファイルを読み込めてないのだろうと考えました。そこで色々調べたみたところ、上記のGoogleColaboratoryに良くある質問

GoogleColaboratoryのよくある質問に「Google ドライブのオペレーションは、フォルダ内のファイル数やサブフォルダ数が増えすぎるとタイムアウトすることがあります。」

に行き着いた次第です。試しに画像ファイズの数を100まで減らすとコードが上手く回ったので、ファイルが多すぎることが問題かと考えました。

Answer 1

別回答で解決しなかったということで、HDF5ファイルに一旦書き出し、その後そのファイルの読み込みの手順はどうするのかという質問に回答します。

ローカルにある画像データを下記質問参考にHDF５ファイルとしてまとめようとしましたが、いまいちやり方が分からず質問させていただきました。

HDFファイルへの書き込み&HDFファイル化したものから元の画像ファイルとしての読み込み。両方の処理を教えていただければと思います。

下記コードはMNISTを10枚ほど切り出してh5ファイルに変換、書き込みその後読み取るものになります。

下記条件に合うようにフォルダは作るようにしました。

• 画像ファイルの格納場所は ./train_images(相対パス)です。
• 正解ラベルの格納場所は ./train.csv（相対パス）です。

処理の流れは以下のようになっていますが1. create_datasetはMNIST用に加工する処理なので読み飛ばして構いません。

1. create_dataset
2. convert_to_h5format
3. check_h5file

以下コードを質問者様用に変更するときに気をつける点として

• MNIST用の処理になっているので適切なheight/widthに変更してほしい
• 3万枚に対しての処理なので処理時間が結構かかるであろう
• 画像ファイルを一気に読み出すのでメモリサイズを気にしてほしい

という3点でしょうか。

不明点あれば質問してください。

from pathlib import Path

import h5py
import numpy as np
import pandas as pd
from PIL import Image
from tensorflow.python.keras.datasets import mnist

h5_path = "train.h5"
label_path = "train.csv"
dataset_path = Path("train_images")

if not dataset_path.exists():
    dataset_path.mkdir()


def check_h5file():
    with h5py.File(h5_path, "r") as h5:
        # H5pyDeprecationWarning:
        # dataset.value has been deprecated. Use dataset[()] instead.
        # print(h5["labels"].value)
        labels = h5["labels"][()]
        images = h5["images"][()]
        # print(images)
        print(labels)
        print(type(images))
        print(type(labels))
        print(images.shape)
        print(labels.shape)


def convert_to_h5format():
    df = pd.read_csv(label_path)
    labels = []
    image_shape = (len(list(dataset_path.glob("*.jpg"))), 28, 28)
    images = np.empty(image_shape)
    for idx, (img_path, label) in enumerate(zip(df["path"], df["label"])):
        labels.append(label)
        images[idx] = Image.open(img_path)

    with h5py.File(h5_path, "w") as h5:
        h5.create_dataset("labels", data=labels)
        h5.create_dataset("images", data=images)


def create_dataset():
    (x_train, y_train), (_, _) = mnist.load_data()
    print(x_train.shape)
    print(y_train.shape)
    assert x_train.shape == (60000, 28, 28)
    assert y_train.shape == (60000,)

    length = 10

    for idx, x in enumerate(x_train):
        if idx == length:
            break
        img = Image.fromarray(np.uint8(x), "L")
        img.save(dataset_path / "train_{}.jpg".format(idx))

    pd.DataFrame({"path": [str(dataset_path / "train_{}.jpg".format(idx)) for
                           idx in range(length)],
                  "label": y_train[:length]}).to_csv(label_path, index=False)


if __name__ == '__main__':
    # ①
    create_dataset()
    # ②
    convert_to_h5format()
    # ③
    check_h5file()

Comments

[spider-man]

ありがとうございます！メモリを気にする必要は確かにありそうでしたが、うまく行きそうです。

Answer 2

試しに画像ファイルの数を100まで減らすとコードが上手く回ったので、ファイルが多すぎることが問題かと考えました。

Googleドライブをマウントして問題が発生するのであれば

1. 一旦3万枚が格納されている画像フォルダをzipにする(自PCでの作業)
2. そのzipファイルをGoogleドライブにアップロードし直す
3. 再度Googleドライブをマウント
4. マウント後のファイルパス(My Drive/...)からGoogleColab側のパス(/content/...)にzipファイルをコピー(cpコマンド)

その後zipファイルを解凍して解凍後のファイルパスを参照して同様のオペレーションをやってみるのはいかがでしょうか。

Comments

[spider-man]

>> wakameさん
お返事遅くなってしまい申し訳ございませんでした。（中国にいた関係でGoogle Colaboratoryを操作することができませんでした。）
上記方法を試したところ、やはり同様のエラーが起こってしまいました。