PyTorch の正答率がおかしい

Question

PyTorchでCNNを実装し、画像認識をしようとしています。
Tutrialと同じCNNモデルを使用しています。
ですが、結果がおかしく、いつも、どれか一つの結果が100%でそのほかの結果は0%になってしまいます。どの部分が間違っているのか分かりません。
データロードの部分だけがtutrialと異なっている部分なので、そこがおかしいのかもしれません。おかしい箇所と直し方を教えていただけると幸いです。
PyTrochを使うのもDeep Learingを実装するのも初めてです。どうか優しく教えていただけると幸いです。よろしくお願いします。

試したこと：
モデルの数値の変更
モデル用のデータ自体を変更

import os
import csv
from glob import glob
from PIL import Image


import pandas as pd
import numpy as np
import torch
import torch.utils.data
from  torchvision import models, transforms, datasets, utils
import matplotlib.pyplot as plt

mean = np.array([0.4914, 0.4822, 0.4465])
std = np.array([0.2470, 0.2435, 0.2616])

transform = transforms.Compose([
    transforms.Resize(32),
    transforms.CenterCrop(32),
    transforms.ToTensor(),
    transforms.Normalize(mean, std)
    ])
data = datasets.ImageFolder(root='./traindata/', transform=transform)
traindata, testdata = torch.utils.data.random_split(data, [20, 4])
trainloader = torch.utils.data.DataLoader(traindata, batch_size=4)

classes = ("blue", "painting")

# functions to show an image

def imshow(img):
    img = img / 2 + 0.5 # unnormalize
    npimg = img.numpy()
    plt.imshow(np.transpose(npimg, (1, 2, 0)))
    plt.show()
    
    
# get some random training images
dataiter = iter(trainloader)
images, labels = dataiter.next()

# show images
imshow(utils.make_grid(images))
# print labels
print(' '.join('%5s' % classes[labels[j]] for j in range(4)))

# defina a cnn
import torch.nn as nn
import torch.nn.functional as F

class Net(nn.Module):
    def __init__(self):
        super(Net, self).__init__()
        self.conv1 = nn.Conv2d(3, 6, 5)
        self.pool = nn.MaxPool2d(2, 2)
        self.conv2 = nn.Conv2d(6, 16, 5)
        self.fc1 = nn.Linear(16 * 5 * 5, 120)
        self.fc2 = nn.Linear(120, 84)
        self.fc3 = nn.Linear(84, 2)
        
    def forward(self, x):
        x = self.pool(F.relu(self.conv1(x)))
        x = self.pool(F.relu(self.conv2(x)))
        x = x.view(-1, 16 * 5 * 5)
        x = F.relu(self.fc1(x))
        x = F.relu(self.fc2(x))
        x = self.fc3(x)
        return x
    
net = Net()

import torch.optim as optim 

criterion = nn.CrossEntropyLoss()
optimizer = optim.SGD(net.parameters(), lr=0.001, momentum=0.9)

for epoch in range(2): # loop over the dataset multiple times
    
    running_loss = 0.0
    for i, data in enumerate(trainloader, 0):
        # get hte inputs; data is a list of [inputs, labels]
        inputs, labels = data
        
        # zero the parameter gradients
        optimizer.zero_grad()
        
        # forward + backward + optimize
        outputs = net(inputs)
        loss = criterion(outputs, labels)
        loss.backward()
        optimizer.step()
        
        # print statistics
        running_loss += loss.item()
        if i % 2000 == 1999: # print every 2000 mini-batches
            print('[%d, %5d] loss: %.3f' %
                  (epoch + 1, i + 1, running_loss / 2000))
            running_loss = 0.0
            
print('Finished Training')

PATH = './test.pth'
torch.save(net.state_dict(), PATH)

# data = datasets.ImageFolder(root='./testdata/', transform=transform)
testloader = torch.utils.data.DataLoader(testdata, batch_size=4)

dataiter = iter(testloader)
images, labels = dataiter.next()
print(len(images))

# print images
imshow(utils.make_grid(images))
print('GroundTruth: ', ' '.join('%5s' % classes[labels[j]] for j in range(4)))

net = Net()
net.load_state_dict(torch.load(PATH))

outputs = net(images)

_, predicted = torch.max(outputs, 1)

print('Predicted: ', ' '.join('%5s' % classes[predicted[j]]
                              for j in range(4)))

correct = 0
total = 0
with torch.no_grad():
    for data in testloader:
        images, labels = data
        outputs = net(images)
        _, predicted = torch.max(outputs.data, 1)
        total += labels.size(0)
        correct += (predicted == labels).sum().item()
        
print('Accuracy of the network on the 10000 test images: %d %%' % (
      100 * correct / total))

class_correct = list(0. for i in range(2))
class_total = list(0. for i in range(2))
with torch.no_grad():
    for data in testloader:
        images, labels = data
        outputs = net(images)
        print(outputs)
        i, predicted = torch.max(outputs, 1)
        print("i", i)
        print('predict', predicted)
        print('labels', labels)
        c = (predicted == labels).squeeze()
        for i in range(2):
            try:
                label = labels[i]
                class_correct[label] += c[i].item()
                class_total[label] += 1
            except:
                break

for i in range(2):
    print(class_total[i])
    print('Accuracy of %5s : %2d %%' % (
          classes[i], 100 * class_correct[i] / class_total[i]))

Comments

[tiitoi]

参考にしたチュートリアルの URL を追記できますでしょうか？

[Q71]

> 結果がおかしく、いつも、どれか一つの結果が100%でそのほかの結果は0%になってしまいます
これは、訓練（学習）中のことでしょうか。それとも、推論時でしょうか。

[GeekTK]

https://pytorch.org/tutorials/beginner/blitz/cifar10_tutorial.html#sphx-glr-beginner-blitz-cifar10-tutorial-py
これがチュートリアルのurlです。よろしくお願いします。

[GeekTK]

推論の結果です。
コードでは最後のprint文の結果になります。

Answer 1

データが分からないこともあり再現できてないので、あくまでコードを読んだ限りの回答をします。

まず下記の部分は正確ではないと思われます。

        c = (predicted == labels).squeeze()
        for i in range(2):
            try:
                label = labels[i]
                class_correct[label] += c[i].item()
                class_total[label] += 1
            except:
                break

下記でも動作するか確認して欲しいです。

        c = (predicted == labels)
        for i in range(labels.size(0)):
            label = labels[i]
            class_correct[label] += c[i].float().item()
            class_total[label] += 1.

それでも修正されない場合、以下の点について確認して欲しいです。

• 表示される全体での正解率は、どれか一つのクラスが正解率 100% で他が 0% ですと成り立つ値でしょうか？
• おそらくこのPyTorch Tutorialを参照されたかと思いますが、この tutorial

の Dataset を使っても同じ現象が発生しますか？

• 発生しない場合データセット周りに問題がある可能性があります

できればどのような出力が表示されたかも記載されると、より正確な回答が得られると思いますのでオススメです。

Comments

[GeekTK]

下記でも動作するか確認して欲しいです。
確認したところ問題なく動作しましたが、結果は変わりませんでした。

表示される全体での正解率は、どれか一つのクラスが正解率 100% で他が 0% ですと成り立つ値でしょうか？
はい。成り立つ値です。ですが、分類という点では、１００％と０％の確率しか結果として出ないのはおかしいです。

おそらくこのPyTorch Tutorialを参照されたかと思いますが、この tutorial
の Dataset を使っても同じ現象が発生しますか？
チュートリアルではCIFIRのデータセットが使われています。そのデータでは問題なく動作します。

発生しない場合データセット周りに問題がある可能性があります。
僕もそのように考えていますが、どこの処理が間違っているのか分からない状況です。

出力結果は
tensor([[-0.0177, 0.0854],
[-0.0213, 0.0783],
[-0.0138, 0.0873],
[-0.0227, 0.0914]])
i tensor([0.0854, 0.0783, 0.0873, 0.0914])
predict tensor([1, 1, 1, 1])
labels tensor([1, 0, 0, 1])
2.0
Accuracy of blue : 0 %
2.0
Accuracy of painting : 100 %
です。これは最後のforループの中のprint文の結果になります。