SVMで間違ったファイルを検出したい

Question

SVMで間違ったファイルを検出したいです。現在、犬の鳴き声と猫の鳴き声を分類するシステムを作っています。

# coding:utf-8
from sklearn import svm, cross_validation
from sklearn.metrics import classification_report, accuracy_score
import sys
from mfcc import *
import glob
import csv
import random
import numpy as np
import os
from sklearn.model_selection import train_test_split

if __name__ == "__main__":
        train_label = np.array([])
        test_label = np.array([])

        nfft = 2048  # FFTのサンプル数
        nceps = 12  # MFCCの次元数
        train_data = np.empty((0, 12), float)
        test_data = np.empty((0, 12), float)

        basedir = '/sound_animal/sounds'
        files = glob.glob(os.path.join(basedir, '*.wav'))
        for file_name in files:
                feature = get_feature(file_name, nfft, nceps)
                if len(train_data) == 0:
                    train_data = feature
                else:
                    train_data = np.vstack((train_data, feature))
                train_label = np.append(train_label,file_name)

                feature = get_feature(file_name, nfft, nceps)
                if len(test_data) == 0:
                    test_data = feature
                else:
                    test_data = np.vstack((test_data, feature))

                test_label = np.append(test_label,file_name)

        feature_train_data = np.hstack((train_label.reshape(len(train_label), 1), train_data))
        feature_test_data = np.hstack((test_label.reshape(len(test_label), 1), test_data))

        with open("feature_data/train_data.txt", "w") as f:
           writer = csv.writer(f)
           writer.writerows(feature_train_data)
        with open("feature_data/test_data.txt", "w") as f:
           writer = csv.writer(f)
           writer.writerows(feature_train_data)

        clf = svm.SVC(kernel='linear', C=1).fit(train_data, train_label)
        score = clf.score(test_data, test_label)

        print(score)

と書きました。現在スコアは0.988です。しかし、今/sound_animal/soundsの中には犬の鳴き声のデータしかなく本来スコアは1.0になるはずです。間違っているファイルがどのファイルかみたいのですが、どのようにコードを書いたらどのファイルが間違っているのか確認できるでしょうか？それとも

score = clf.score(test_data, test_label)

といっぺんに計算しているからどのファイルが間違っているのか確認はできず、とても面倒ですが一つ一つファイルを減らすなどしてどのファイルが間違いなのか確認するしかないのでしょうか？

Answer 1

rhksさんの回答が正しいと思いますが、目視でエラーをキャッチできてないようなので、
補足として質問者の求めているコードを提示しておきます。

predict_label = clf.predict(test_data)
for i, label in enumerate(predict_label):
    if label != test_label[i]:
        print(label, test_label2[i])

また、質問からは外れますが、このコードではやりたい予測ができてないと思います。
train_labelにファイル名をそのまま入れてしまっているので、ファイル名の予測を行ってしまっています。
たとえば、どれかの正解がdog_3.wavとしてどれか一個がdog_4.wavと予測しているとかだと思います。

やりたい事をコード化するとこんな感じですかね。

for file_name in files:
    feature = get_feature(file_name, nfft, nceps)
    if len(train_data) == 0:
        train_data = feature
    else:
        train_data = np.vstack((train_data, feature))

    if file_name.find('dog') > 0:
        train_label = np.append(train_label,'dog')
    else:
        train_label = np.append(train_label,'other')

ただし、svm.fitはlabelが一種類だとエラーを吐きます。
The number of classes has to be greater than one; got 1
ちゃんと二種類以上の教師データを用意しないとバリデートできません。

Answer 2

clf.predict(test_data)
と
test_label
を比較する。

Comments

[退会済みユーザー]

ありがとうございます。
if clf.predict(test_data) !=test_label:
print(clf.predict(test_data))
のようなコードを考えていらっしゃいますか？実行してみると、if clf.predict(test_data) !=test_label:
ValueError: The truth value of an array with more than one element is ambiguous. Use a.any() or a.all()とエラーが出てしまったのですが。。。

[WathMorks]

そういう意味ではありません。
clf.predict(test_data)をprintしてみる。
test_labelをprintしてみる。
まずは目視で比較する。
不具合がないことを確認してから、コード化すればよいでしょう。

[退会済みユーザー]

目視で問題がないことを確認できました

[退会済みユーザー]

[ '/Users/xxx/Desktop/sounds/dog1.wav'
'/Users/xxx/Desktop/sounds/dog2.wav'
'/Users/xxx/Desktop/sounds/dog3.wav' ・・・]
のように一つの大きなリストの中にそれぞれの音声ファイルのデータがclf.predict(test_data)でもtest_labelでもラベルとして入っていてどう書いたら間違っているファイルを検出できますか？

[退会済みユーザー]

リストで一つ一つの値を比較する方法が使えなそうなので...

[WathMorks]

clf.predict(test_data)とtest_labelは一致しましたか？

[退会済みユーザー]

はい、一致しています

[WathMorks]

ならば正しく分類できた、誤分類はなかったということです。

[退会済みユーザー]

なるほど。ではなぜスコアが0.988になるのでしょうか？

[WathMorks]

以下がscoreの定義です。計算してみてください。
>はい、一致しています
が正しいのであれば、u=0となるはずです。
したがって、vの値にかかわらず、score = 1.0になるはずです。

u=((test_label - clf.predict(test_data)) **2).sum()
v = ((test_label - test_label.mean()) ** 2).sum()
score = 1 - u/v
print(u)
print(v)
print(score)