Python ndarrayデータ格納の仕方

Question

前提

Pytorchで機械学習のためのデータローダを作成しています。
Python初心者です。よろしくお願いします。

実現したいこと

複数の.npyファイルのテンソルデータを読み込んでndarrayに格納したい。

読み込みたいファイル

以下のようなファイル形式で、それぞれに1次元（[x_1,x_2,...x_128]）のテンソルデータがひとつずつ格納されています。ファイル数は5584個です。

./z_out/audio/ ├── Ses05M_script03_2_F001.npy
├── Ses05M_script03_2_F002.npy
├── Ses05M_script03_2_M003.npy
├── Ses05M_script03_2_M004.npy
├── Ses05M_script03_2_M005.npy
…(インデントが崩れていてすみません)

データ形式

ndarrayで、以下のように格納したいです。

data[5584][128] =
{{x1_1,x1_2,...,x1_128},
{x2_1,x2_2,...,x2_128},
...
{x5584_1,x5584_2,...,x5584_128}}

発生している問題

data.shapeの出力が三行目になりますが、(1429506,)となっており、一次元にすべて格納されてしまっています。自分としては、(5584,256)と格納したいです。よろしくお願いします。

device : cuda:0
list size : 5584
(1429506,)
[ 2.56000000e+02  5.58400000e+03 -5.98937094e-01 ... -2.51299590e-01
  2.45280683e-01  3.78072947e-01]

該当のソースコード

# PyTorch
import torch
import torch.nn as nn
import torch.nn.functional as F
 
# 画像表示用
import matplotlib.pyplot as plt

#
import glob
import numpy as np

batch_size = 128
one_z_size = 256

dev = torch.device("cuda:0" if torch.cuda.is_available() else "cpu") 
print("device :", dev)

#データのファイル名取得
path = '../../../data/z_out/acoustic_text_feature/'
file_path_lists = glob.glob("{}/**".format(path), recursive=True)
file_path_lists.pop(0)
print("list size :",len(file_path_lists))

#空の配列dataを用意し、データを格納
data = np.array((one_z_size,len(file_path_lists)))
data_name = np.empty(0)
for i in range(len(file_path_lists)):
    data_name = np.append(data_name, file_path_lists[i])
    data = np.append(data, np.load(file_path_lists[i]))

print(data.shape)
print(data)

試したこと

dataに格納するループのところをdata[i]などにしてみましたが、テンソルの型のエラーが出て動きませんでした。

Comments

[meg_]

データが全て読み込めているならreshapeしてはどうでしょうか？

[tmc5]

コメントありがとうございます！
たしかに、reshapeする手段も考えられましたね。ありがとうございます！

Answer 1

np.appendはnp.hstackと同様に数珠繋ぎにスタックされていきますので、その代わりに積み重ねられるnp.vstackを使ってください。
そのままnp.appendをnp.vstackに挿げ替えるだけでうまくいくはずです。

参考：二次元データであればnp.dstackが使えますね

import numpy as np
arr1 = np.zeros(10)
arr2 = np.ones(10)

###################
arr = np.vstack((arr1,arr2))
print(arr)
# array([[0., 0., 0., 0., 0., 0., 0., 0., 0., 0.],
#        [1., 1., 1., 1., 1., 1., 1., 1., 1., 1.]])


###################
arr = np.hstack((arr1,arr2))
print(arr)
# array([0., 0., 0., 0., 0., 0., 0., 0., 0., 0., 1., 1., 1., 1., 1., 1., 1., 1., 1., 1.])

###################
arr = np.dstack((arr1,arr2))
print(arr)
# array([[[0., 1.],
#         [0., 1.],
#         [0., 1.],
#         [0., 1.],
#         [0., 1.],
#         [0., 1.],
#         [0., 1.],
#         [0., 1.],
#         [0., 1.],
#         [0., 1.]]])

Comments

[tmc5]

ご回答ありがとうございます！
なるほど…うまくいきました！