Python ValueError: Data cardinality is ambiguous: エラーの改善

Question

前提・実現したいこと

PythonでCNNモデルを用い音声感情分類を行うシステムを作っています。
以下のエラーメッセージが発生しました。xとyのサイズを揃えないといけないと思うのですが、
どう修正すれば良いか調べてみても分からなかったため、どなたかご教授いただけませんでしょうか？

発生している問題・エラーメッセージ

(637, 2913, 40, 1) (762, 4)
(450, 2913, 40, 1) (450, 4)
Traceback (most recent call last):
  File "cnn_model.py", line 329, in <module>
    main()
  File "cnn_model.py", line 286, in main
    callbacks=[valid_metrics, chkPoint]
  File "/usr/local/lib/python3.7/dist-packages/keras/utils/traceback_utils.py", line 67, in error_handler
    raise e.with_traceback(filtered_tb) from None
  File "/usr/local/lib/python3.7/dist-packages/keras/engine/data_adapter.py", line 1657, in _check_data_cardinality
    raise ValueError(msg)
ValueError: Data cardinality is ambiguous:
  x sizes: 637
  y sizes: 762
Make sure all arrays contain the same number of samples.

該当のソースコード

f_train_path = os.getcwd() + '/feature/Session' + fold + '/train/'

def hard_label(path):
    label=[]
    f_list = list(ii for ii in sorted(glob.glob(path)))
    for file_path in f_list:
        with open(file_path, 'r') as file:
            for line in file:
                line_sp = line.replace('Happiness', '0')
                line_sp = line_sp.replace('Anger', '1')
                line_sp = line_sp.replace('Neutral', '2')
                line_sp = line_sp.replace('Sadness', '3')
                line_sp = line_sp.replace('\n', '')
                line_sp = line_sp.split(',')
                if (len(line_sp)==10):
                    if (line_sp[9] == '0') or (line_sp[9] == '1') or (line_sp[9] == '2') or (line_sp[9] == '3'):
                        label.append(line_sp[9])
                        print(line_sp[0])
                        
        file.close()
    label = np.array(label)
    label = label.astype('int16')
    #print(label)
    return label

def load_data(path):
    f_list = list(sorted(glob.glob(path + '*.npy')))
    X = np.zeros((len(f_list), slen, f_dim), dtype='float32')

    for fname, ii in zip(f_list, range(len(f_list))):
        tmp = np.load(fname)
        padd = np.zeros((slen-len(tmp), f_dim))
        X[ii] = np.vstack((tmp, padd))
    return X.reshape(len(X), slen, f_dim, 1)

print(x_train.shape, y_train.shape)
    print(x_test.shape, y_test.shape)

  # Trains the model for a fixed number of epochs (iterations on a dataset)
    model_history = model.fit(x=x_train,
                              y=y_train,
                              batch_size=batch_size,
                              epochs=epochs,
                              #class_weight=class_weight,
                              verbose=0,
                              validation_data=(x_test, y_test),
                              callbacks=[valid_metrics, chkPoint]
                              )

def main():
    x_train = load_data(f_train_path)

補足情報（FW/ツールのバージョンなど）

Google Colabratory
Python 3.6.5

Comments

[jbpb0]

> (637, 2913, 40, 1) (762, 4)

x_trainのサンプル数が637で、y_trainのサンプル数が762で、それが違うからエラーが出てるのだと思います

x_trainは「x_train = load_data(f_train_path)」で作っていて、「def load_data(path):」を見ると、指定したディレクトリパス「f_train_path = os.getcwd() + '/feature/Session' + fold + '/train/'」にある、名前が「*.npy」のファイルの数がサンプル数のようです

y_trainのサンプル数は、それを作ってるところのコードが質問に記載されて無いので分かりません

[odenhanpen]

ご回答ありがとうございます。

def main():
x_train = load_data(f_train_path)
y_train = hard_label(l_train_path)
Happiness=np.count_nonzero(y_train==0)
Anger=np.count_nonzero(y_train==1)
Neutral=np.count_nonzero(y_train==2)
Sadness=np.count_nonzero(y_train==3)
n_max=max(Happiness, Anger, Neutral, Sadness)
y_train = to_categorical(y_train, emo_classes)

この部分でしょうか？

[jbpb0]

> y_train = hard_label(l_train_path)

の「hard_label()」の定義です
「def hard_label(path):」みたいなのの中身

[odenhanpen]

失礼いたしました。こちらです。CSVファイルの中にデータベースのラベル情報が入っています。9列目に取得したいラベルが記載されています。

def hard_label(path):
label=[]
f_list = list(ii for ii in sorted(glob.glob(path)))
for file_path in f_list:
with open(file_path, 'r') as file:
for line in file:
line_sp = line.replace('Happiness', '0')
line_sp = line_sp.replace('Anger', '1')
line_sp = line_sp.replace('Neutral', '2')
line_sp = line_sp.replace('Sadness', '3')
line_sp = line_sp.replace('\n', '')
line_sp = line_sp.split(',')
if (len(line_sp)==10):
if (line_sp[9] == '0') or (line_sp[9] == '1') or (line_sp[9] == '2') or (line_sp[9] == '3'):
label.append(line_sp[9])
print(line_sp[0])

file.close()
label = np.array(label)
label = label.astype('int16')
return label

[jbpb0]

まず、ディレクトリパス「f_train_path = os.getcwd() + '/feature/Session' + fold + '/train/'」にある、名前が「*.npy」のファイルの数を数えてください
おそらく637個で、それがx_trainのサンプル数です

[jbpb0]

「def hard_label(path):」は、質問を編集して追記してください
ここに書かれても、インデントが消えてしまい、よく分かりません

[jbpb0]

> CSVファイルの中にデータベースのラベル情報が入っています。9列目に取得したいラベルが記載されています。

ディレクトリパス「l_train_path」にある全てのファイルで、ラベルが記載されてる行の数を数えてください
おそらく762行で、それがy_trainのサンプル数です

[jbpb0]

・x_trainのサンプル数は、「f_train_path」にある、名前が「*.npy」のファイルの数
・y_trainのサンプル数は、「l_train_path」にある、全(CSV?)ファイルに書かれてるラベルの総数
で、両者が一致してないのがまずいのだと思います

そもそものデータの作り方が間違ってないか、確認してみてください

[odenhanpen]

なるほど、ありがとうございます。確認してみます。

Answer 1

(637, 2913, 40, 1) (762, 4)

x_trainのサンプル数が637で、y_trainのサンプル数が762で、それが違うからエラーが出てるのだと思います

コードを見ると、
・x_trainのサンプル数は、「f_train_path」にある、名前が「*.npy」のファイルの数
・y_trainのサンプル数は、「l_train_path」にある、全(CSV?)ファイルに書かれてるラベルの総数
のようです
そもそもの学習用データの作り方が間違ってないか、確認してみてください