質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
PyTorch

PyTorchは、オープンソースのPython向けの機械学習ライブラリ。Facebookの人工知能研究グループが開発を主導しています。強力なGPUサポートを備えたテンソル計算、テープベースの自動微分による柔軟なニューラルネットワークの記述が可能です。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

解決済

1回答

1176閲覧

自作datasetでtransformsを設定したい

tmc5

総合スコア26

PyTorch

PyTorchは、オープンソースのPython向けの機械学習ライブラリ。Facebookの人工知能研究グループが開発を主導しています。強力なGPUサポートを備えたテンソル計算、テープベースの自動微分による柔軟なニューラルネットワークの記述が可能です。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0グッド

0クリップ

投稿2022/08/31 09:42

編集2022/08/31 12:12

前提

pytorchでVAEのコードを動かしたいです。
参考にしているサイトはこちら
https://academ-aid.com/ml/vae#index_id18
で、このサイトではMNISTのデータセットを用いています。
自分はそれを自作のデータ(画像ではなく一次元データ)を用いて動かしたいと思っています。

使用するデータ
・要素数128の一次元データ 約5000個
・正解ラベル 上記と同数

実現したいこと

データセットを定義したところ、transformのところでエラーが出てしまいます。
参考コードの方では、ToTensorとLambda(データの一次元化)を行っていました。自分の用意したデータはもともと一次元データなので、二つ目は実行しなくてもよいかと思い、ToTensorのみで動かしたところエラーが出ました。一次元化のtransformも含めて実行してもエラーは消えませんでした。用意したデータはfloat32型に変換しています。ToTensorを動かしたいのですが、どこに不具合がおこっているのかを教えていただきたいです。エラーメッセージの「次元2/3であるべきだけど次元1になりました」の内容もよくわかりませんでした。調べてもあまり関連する項目が見つかりませんでした。そもそも次元2/3とあり、次元は自然数ではないのか、などの疑問もあります。
いろいろ書いてしまいましたが、知りたいのは、ToTensorを動かしたいのですが、どこに不具合がおこっているのかということです。よろしくお願いします。

発生している問題・エラーメッセージ

python

1import os # tensorboardの出力先作成 2import matplotlib.pyplot as plt # 可視化 3import numpy as np # 計算 4import torch # 機械学習フレームワークとしてpytorchを使用 5import torch.nn as nn # クラス内で利用するモジュールのため簡略化 6import torch.nn.functional as F # クラス内で利用するモジュールのため簡略化 7from torch import optim # 最適化アルゴリズム 8from torch.utils.tensorboard import SummaryWriter # tensorboardの利用 9from torchvision import datasets, transforms # データセットの準備 10import glob 11import numpy as np 12 13# text,acoustic = 128 , text_acoustic = 256 14one_z_size = 256 15 16dev = torch.device("cuda:0" if torch.cuda.is_available() else "cpu") 17print("device :", dev) 18 19class Mydatasets(torch.utils.data.Dataset): 20 def __init__(self): 21 22 self.data = np.empty((0,one_z_size)).astype(np.float32) 23 self.label = np.empty((0,1)).astype(np.float32) 24 25 #self.transform = transforms.Compose([transforms.ToTensor(), transforms.Lambda(lambda x: x.view(-1))]) 26 self.transform = transforms.ToTensor() 27 28 print("Intermediate value ( z ) loading...") 29 for j in range(1,6): 30 31 path = '../../../data/z_out/acoustic_text_feature/'+str(j)+'/' 32 file_path_lists = glob.glob("{}/**".format(path), recursive=True) 33 file_path_lists.pop(0) 34 print("#fold{",j,"} size :",len(file_path_lists)) 35 for i in range(len(file_path_lists)): 36 self.data = np.vstack((self.data, np.load(file_path_lists[i]).astype(np.float32))) 37 38 print("Emotion label loading...") 39 for j in range(1,6): 40 path = '../../../data/z_out/label/'+str(j)+'/' 41 file_label_path_lists = glob.glob("{}/**".format(path), recursive=True) 42 file_label_path_lists.pop(0) 43 for i in range(len(file_label_path_lists)): 44 #data_name2 = np.append(data_name2, file_label_path_lists[i]) 45 emo_label = np.atleast_1d(np.load(file_label_path_lists[i])) 46 emo_label[0]=emo_label[0][:-1] 47 self.label = np.vstack((self.label, emo_label.astype(np.float32))) 48 49 #デバック用 50 print(self.data.shape) #(5584, 256) 51 print(self.label.shape) #(5584, 1) 52 print(self.data[5].shape) #(256,) 53 print(self.label[5].shape) #(1,) 54 55 56 def __len__(self): 57 return self.label.size 58 59 def __getitem__(self, idx): 60 out_data = self.data[idx] 61 out_label = self.label[idx] 62 63 if self.transform: 64 out_data = self.transform(out_data) 65 66 return out_data, out_label 67 68dataset = Mydatasets() 69 70print(dataset[5])

transform ToTensorのみを動かしたときのエラー

Traceback (most recent call last): File "vae.py", line 80, in <module> print(dataset[5]) File "vae.py", line 73, in __getitem__ out_data = self.transform(out_data) File "/home/users/lib/python3.8/site-packages/torchvision/transforms/transforms.py", line 104, in __call__ return F.to_tensor(pic) File "/home/users//lib/python3.8/site-packages/torchvision/transforms/functional.py", line 67, in to_tensor raise ValueError('pic should be 2/3 dimensional. Got {} dimensions.'.format(pic.ndim)) ValueError: pic should be 2/3 dimensional. Got 1 dimensions.

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

jbpb0

2022/08/31 10:24

「参考にしているサイトはこちら」の次のurlをクリックしたら、「ページが見つかりません。」となります
jbpb0

2022/08/31 11:10

print(dataset[5]) ↓ 修正 print(dir(dataset)) print(dataset.data[5]) print(dataset.label[5]) でしょうか?
tmc5

2022/08/31 12:16

教えていただいた解決策で動きました!ありがとうございます。ベストアンサーにさせていただきたいのですが、どうしたらよいでしょうか?
bsdfan

2022/08/31 23:12

解決済みになっていますが、2/3 は分数ではなく 2 or 3 の意味でしょう。 torchvisionのToTensorは画像データを前提にしているので2次元(グレースケール)か3次元(カラー)を入力にとります。1次元データにこのToTensorを使おうとするのが不適です。
tmc5

2022/09/01 05:29

な、なるほど... 一次元データ(ndarray)をテンソル化する場合のtransformはどう処理したらよいでしょうか?
bsdfan

2022/09/01 06:53

__init__ の最後で self.data = torch.from_numpy(self.data) しておけばtransformでやる必要はないと思います。(正しい流儀があるのかもしれませんが、このあたりあまり詳しく知らないです)
guest

回答1

0

自己解決

修正依頼でいただいた方法でうまくいきました。

投稿2022/08/31 13:36

tmc5

総合スコア26

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問