画像認識NNを改良したい

Question

自分でニューラルネットワークを作ろう
https://qiita.com/takahiro_itazuri/items/d2bea1c643d7cca11352#comment-a59cd26161ee56ea1220
を元に作ったコードなんですが・・・。

コードと出力結果はBA決定後、中略します。

from google.colab import drive


中略（以下に書いたコード参照）

    scoreboard_array = np.asarray(scoreboard)
    print('performance: ', scoreboard_array.sum() / scoreboard_array.size)

以下画像
0.png～9.png

10.png～19.png

20.png～29.png

以下同様。

出力結果
Mounted at /content/drive
test_data_list [[0
中略
/usr/local/lib/python3.7/dist-packages/ipykernel_launcher.py:160: RuntimeWarning: invalid value encountered in double_scalars

plabelが判定結果の画像ファイル名前です、testファイルは50.pngそのものですので、5と出力させたいのですが、9になったり7になったりしてしまいます。

というか気づいたのですが、こちらのコード

from google.colab import drive
drive.mount('/content/drive')

import sys
import numpy as np

sys.path.append('/content/drive/My Drive')

import ActivationFunction as AF
from PIL import Image

# PILで開いたうえでデータをNumpy形式にする
# （例えばJPEGは圧縮されていてNumpyな配列になっていないので、
# そこからNumpyのデータ空間(?)に持ってくる必要がある）
tefilename = "1.png"
teimg = Image.open("drive/My Drive/mnist_dataset/" + tefilename)
teimg = teimg.resize((10, 10))
teimg = np.asarray(teimg)

def extract(x, y):
    # カラー画像の時Gだけ抜き取りたい
    if len(x.shape) == 3:
        h, w, ch = x.shape

    # RGBのGだけ抜き取りたい
    return x[:,:,y]

v_max, v_min = 300, 200

def diff(x):
    imgrows, lenrows, imgcolumns, lencolumns = [], [], [], []
    for (img, imgt) in zip(x, x.T):
        rows = img[(v_min<img)&(v_max>img)]
        columns = imgt[(v_min<imgt)&(v_max>imgt)]
        imgrows.append(rows)
        lenrows.append(len(rows))
        imgcolumns.append(columns)
        lencolumns.append(len(columns))
    return lenrows + lencolumns

test_data_list = []

test_data_list.append([0] + diff(extract(teimg, 1))) # 略

print("test_data_list" ,test_data_list)

# 見本データに対しても同様に
# exについて同様に
training_data_list = []

for i in range(10):
    for e in range(1):
        trad = Image.open("drive/My Drive/mnist_dataset/" + str(10*i+e) + ".png")
        trad = trad.resize((10, 10))
        trad = np.asarray(trad)
        #g #b #r 抽出後diffしてappend
        training_data_list.append([i] + diff(extract(trad, 1))) # 略

print("training_data_list" ,training_data_list)

# 3層ニューラルネットワーク
class ThreeLayerNetwork:
    # コンストラクタ
    def __init__(self, inodes, hnodes, onodes, lr):
        # 各レイヤーのノード数
        self.inodes = inodes
        self.hnodes = hnodes
        self.onodes = onodes

        # 学習率
        self.lr = lr

        # 重みの初期化
        self.w_ih = np.random.normal(0.0, 1.0, (self.hnodes, self.inodes))
        self.w_ho = np.random.normal(0.0, 1.0, (self.onodes, self.hnodes))

        # 活性化関数
        self.af = AF.sigmoid
        self.daf = AF.derivative_sigmoid

    # 誤差逆伝搬
    def backprop(self, idata, tdata):

        # 縦ベクトルに変換
        o_i = np.array(idata, ndmin=2).T
        t = np.array(tdata, ndmin=2).T

        # 隠れ層
        x_h = np.dot(self.w_ih, o_i)
        o_h = self.af(x_h)

        # 出力層
        x_o = np.dot(self.w_ho, o_h)
        o_o = self.af(x_o)

        # 誤差計算
        e_o = (t - o_o)
        e_h = np.dot(self.w_ho.T, e_o)

        # 重みの更新
        self.w_ho += self.lr * np.dot((e_o * self.daf(o_o)), o_h.T)
        self.w_ih += self.lr * np.dot((e_h * self.daf(o_h)), o_i.T)

    # 順伝搬
    def feedforward(self, idata):
        # 入力のリストを縦ベクトルに変換
        o_i = np.array(idata, ndmin=2).T

        # 隠れ層
        x_h = np.dot(self.w_ih, o_i)
        o_h = self.af(x_h)
        print("o_h" ,o_h)

        # 出力層
        x_o = np.dot(self.w_ho, o_h)
        print("x_o" ,x_o)
        o_o = self.af(x_o)

        return o_o

if __name__=='__main__':
    # パラメータ
    #inodes=784から59+1に変更
    inodes = 20
    hnodes = 100
    onodes = 10
    lr = 0.3

    # ニューラルネットワークの初期化
    nn = ThreeLayerNetwork(inodes, hnodes, onodes, lr)

    # 学習
    epoch = 1
    for e in range(epoch):
        print('#epoch ', e)
        data_size = len(training_data_list)
        for i in range(data_size):
            if i % 1000 == 0:
                print('  train: {0:>5d} / {1:>5d}'.format(i, data_size))
            idata = (np.array(training_data_list[i][1:]) / 255.0 * 0.99) + 0.01
            # 変更の余地あり
            tdata = np.zeros(onodes) + 0.01
            tdata[training_data_list[i][0]] = 0.99
            print("idata" ,idata)
            print("tdata" ,tdata)
            nn.backprop(idata, tdata)
            pass
        pass

    # テスト
    scoreboard = []
    for record in test_data_list:
        idata = (np.array(record[1:]) / 255.0 * 0.99) + 0.01
        predict = nn.feedforward(idata)
        plabel = np.argmax(predict)
        np.set_printoptions(threshold=10000)
        print("predict=o_o" ,predict)
        print("plabel" ,plabel)
        pass

    scoreboard_array = np.asarray(scoreboard)
    print('performance: ', scoreboard_array.sum() / scoreboard_array.size)

の出力結果が以下のようになるわけですが、

Drive already mounted at /content/drive; to attempt to forcibly remount, call drive.mount("/content/drive", force_remount=True).
test_data_list [[0, 10, 4, 2, 4, 4, 4, 4, 4, 4, 8, 10, 4, 2, 2, 6, 6, 2, 2, 4, 10]]
training_data_list [[0, 10, 4, 2, 4, 4, 4, 4, 4, 4, 8, 10, 4, 2, 2, 6, 6, 2, 2, 4, 10], [1, 10, 8, 5, 5, 7, 7, 8, 7, 3, 4, 10, 10, 6, 6, 1, 1, 3, 8, 9, 10], [2, 10, 4, 3, 8, 7, 6, 6, 7, 2, 2, 10, 6, 5, 4, 3, 3, 2, 4, 8, 10], [3, 10, 4, 2, 7, 6, 5, 7, 5, 3, 5, 10, 7, 5, 6, 4, 4, 1, 2, 5, 10], [4, 10, 7, 6, 5, 5, 5, 2, 2, 7, 8, 10, 7, 6, 6, 6, 2, 1, 1, 8, 10], [5, 10, 3, 8, 7, 3, 5, 7, 4, 3, 9, 10, 7, 3, 5, 5, 5, 4, 4, 6, 10], [6, 10, 5, 5, 7, 3, 3, 5, 4, 4, 8, 10, 5, 3, 3, 5, 4, 4, 3, 7, 10], [7, 10, 2, 4, 7, 7, 7, 7, 7, 7, 10, 10, 9, 7, 5, 4, 4, 5, 6, 8, 10], [8, 8, 4, 4, 4, 4, 2, 5, 4, 4, 8, 10, 5, 2, 3, 4, 4, 2, 2, 5, 10], [9, 10, 4, 2, 5, 5, 3, 4, 6, 4, 7, 10, 7, 3, 2, 4, 4, 4, 2, 4, 10]]
#epoch 0
train: 0 / 10
idata [0.04882353 0.02552941 0.01776471 0.02552941 0.02552941 0.02552941
0.02552941 0.02552941 0.02552941 0.04105882 0.04882353 0.02552941
0.01776471 0.01776471 0.03329412 0.03329412 0.01776471 0.01776471
0.02552941 0.04882353]
tdata [0.99 0.01 0.01 0.01 0.01 0.01 0.01 0.01 0.01 0.01]
中略
tdata [0.01 0.01 0.01 0.01 0.01 0.01 0.01 0.01 0.01 0.99]
o_h [[0.44149295]
[0.47443682]
中略
[0.5014706 ]]
x_o [[ -2.09106513]
中略
[ -2.25102428]]
predict=o_o [[1.09968282e-01]
中略
[9.52611495e-02]]
plabel 6
performance: nan
/usr/local/lib/python3.7/dist-packages/ipykernel_launcher.py:162: RuntimeWarning: invalid value encountered in double_scalars

まあつまり、trainingは、画像番号0しか入力していないのに、画像番号は存在しない3になっており、これは毎度引っかかっているlist in list構造問題であり、

        predict = nn.feedforward(idata)

ここでfeedforwardしたidataが、idataつまりtarining_dataの1番目のlist（呼び方が分からない）のn番目（呼び方が分からない）を画像番号nに該当するとして計算しており、

training_data_list [[0, 10, 4, 2, 4, 4, 4, 4, 4, 4, 8, 10, 4, 2, 2, 6, 6, 2, 2, 4, 10]]

この10が画像番号0,4が画像番号1,2が画像番号2・・・となっているのですが、実際は、（最初のコードに書いたように）

training_data_list [[0, 10, 4, 2, 4, 4, 4, 4, 4, 4, 8, 10, 4, 2, 2, 6, 6, 2, 2, 4, 10]
これを画像番号1のデータ
[1, 10, 8, 5, 5, 7, 7, 8, 7, 3, 4, 10, 10, 6, 6, 1, 1, 3, 8, 9, 10]
これを画像番号2のデータ・・・
として処理したいのですが、どうすればいいんでしょうか。]

・・・というかこれもう、元のプログラムに即して、画像からテキストファイルを作成し、そのテキストファイルを読み込む、みたいにした方がいいんでしょうか・・・？

ちょっとミスを見つけたんですが、テストの所一部record使わないとrecord使ってる意味がないですね、

まあ。。元はcsv読み込んでいるのだから、コードでcsv作成して読み込んだ方が良いですかね、色々ややこしいし。

Answer 1

つっこみどころ満載ですね。

train: 0 / 10

10個のデータを1回だけ通して学習させたNNで判定できるとは思いません。

training_data_list [[0, 10, 4, 2, 4, 4, 4, 4, 4, 4, 8, 10, 4, 2, 2, 6, 6, 2, 2, 4, 10],
inodes = 20

これ、もしかして画像データですか？ inodesも20になっているのでそうだし、元のソースからすると、生データの筈ですが、20個はいくらなんでも少なすぎて、特徴が抽出できないのではないかと思います。

255.0 * 0.99) + 0.01

この計算で元データを256階調の白黒画像だとして処理してますが、元データの方は大きくても10程度です。 そうてい通りですか？

として処理したいのですが、どうすればいいんでしょうか。

単に1増やしたいだけなら、[i]のところで、[i+1]とでもすればいいのではないかと思うし、そもそも連番入れているのには違和感がありますね。
何れにしても、下記の通り、事前にCSVを用意するのが適当ではないかな。

元はcsv読み込んでいるのだから、コードでcsv作成して読み込んだ方が良いですかね

そうしない理由がわかりません。

Comments

[退会済みユーザー]

training_data_list [[0, 10, 4, 2, 4, 4, 4, 4, 4, 4, 8, 10, 4, 2, 2, 6, 6, 2, 2, 4, 10]
は、１つの画像のデータですね。
これは１つの画像のデータであるため、inodesは10でも問題なく動いていると思っているのですが・・・。
いずれにせよ、画像の種類数は少ない事は間違いないですね。

255.0 * 0.99) + 0.01
この式ですが、全体を1/10したりしたのですが、あまり変化がなく・・・
256で割ると小さくなりすぎますかね。

csv作成バージョンと非作成バージョンを作ったのですが、
どっちも同程度の精度なので、後者を改造しています。

データ数は少ないですが「完全に一致しているデータ」があるのだから、
それを正答に出すようにしたいのですが、そう上手くはいかないんですかね？
完全に一致するデータは最有力候補にあげるような仕組みにしたいのですが・・・。

たぶん「誤差」が小さいほど、その（誤差の小さい）番号の値が大きくなるような計算が、
何等かの計算式によるなされていると思うのですが、その「誤差が小さい程番号の値が大きくなる」という部分を上手く改良すれば良いと思うのですが・・・

やはり、backとforwrardの関数をいじるしかないですよね、
乱数の正規分布行列を掛け合わせる事で誤差が大きくなってるんですよねたぶん。

お、ところが言われた通り、epochを1000にすると5しか出なくなったっぽいです・・・
でもなんで10とかだとだめなんでしょう・・・、「完全一致」って極めて特異的だと思うのですが・・・。

[TakaiY]

データ数は少ないですが「完全に一致しているデータ」があるのだから、
それを正答に出すようにしたい
ＮＮは画像と画像の距離を測るようなものではありません。なのでそうはなりません。

NNについて誤解していると思うので、そっちの方向に行っても正解には辿りつけないでしょう。

[退会済みユーザー]

一応簡単な認識プログラム作ったんですが、みたいですか？