ニューラルネットワークの推論処理のプログラムでエラーが出てしまいます。(ゼロから始めるdeepleraning)

Question

###前提・実現したいこと
オライリー・ジャパンの”ゼロから始めるdeeplearning”を使って機械学習を勉強しています。(現在3.6.2章です)

下記のソースコードを実行したところ, エラーメッセージが出てしまったのですが,
このエラーメッセージの意味と回避方法を教えていただきたいです。

###発生している問題・エラーメッセージ

Traceback (most recent call last):
  File "<stdin>", line 2, in <module>
  File "<stdin>", line 3, in predict
KeyError: 'B1'

###該当のソースコード

import numpy as np
import pickle

import sys, os
sys.path.append(os.pardir)
from dataset.mnist import load_mnist


def sigmoid(x):
    return 1/(1+np.exp(-x))

def getdata():
    (xtrain,ttrain), (xtest,ttest) = load_mnist(normalize = True, flatten = True, one_hot_label = False)
    return xtest, ttest

def initnetwork():
    with open("sample_weight.pkl", 'rb') as f:
        network = pickle.load(f)
    return network

def predict(network, x):
    W1, W2, W3 = network['W1'], network['W2'], network['W3']
    B1, B2, B3 = network['B1'], network['B2'], network['B3']
    a = np.dot(x, W1) + B1
    A = sigmoid(a)
    b = np.dot(A, W2) + B2
    B = sigmoid(b)
    y = np.dot(B. W3) + B3
    Y = softmax(y)
    return Y



x, t = getdata()
network = initnetwork()

accuracycnt = 0

for i in range(len(x)):
    y = predict(network, x[i])
    p = np.argmax(y)
    if p == t[i]:
        accuracycnt += 1

print("Accuracy:" + str(float(accuracycnt) / len(x)))

Answer 1

この章では、筆者が事前に作成した学習済みのモデルのデータ(samble_weight.pkl)を使用する必要があったかと記憶しております。

書籍の公式のリポジトリ
https://github.com/oreilly-japan/deep-learning-from-scratch
よりソースコード一式を入手し、 ch03/ 以下に置かれている sample_weight.pklをお使いください。

Comments

[achala]

ソースコード一式はダウンロードしてあり, コードはch03/に保存しており,
実行時もカレントディレクトリをch03/にしてから実行した結果, 上のようなエラーが出ています。

[magichan]

そういうことでしたか失礼しました。

実際の確認しましたところ、sample_weight.pkl内のDictデータは、キーとして

['b1', 'b2', 'b3', 'W1', 'W2', 'W3']

が使用されておりました。よって

B1, B2, B3 = network['B1'], network['B2'], network['B3']

の箇所は、大文字ではなく、小文字の 'b1','b2','b3'を使い

B1, B2, B3 = network['b1'], network['b2'], network['b3']

とする必用がありそうです。

ついでに、上記の他にもエラーが２箇所ありましたので

（１）
28行目の
y = np.dot(B. W3) + B3
の部分にはタイプミス('.'ではなくて',')

（２）
softmax() 関数が定義されていない
とりあえず
commom/functions.py
からコピー

の修正で動作すると思います。

[achala]

修正したら, テキストの通りの数値が出ました！
カンマの打ち忘れ等の細かい修正も見つけていただきとても助かりました。

ありがとうございました。

Answer 2

sample_weight.pklデータ内容が正しいか（'B1'キーを含むデータか）を確認してください。

サンプルデータ確認したところ{'b3': array([-0.06023985,～でしたのでnetwork['B1']ではなくnetwork['b1']と修正してください。

Comments

[achala]

付属のデータを用いていたのですが, 含まれていないようでした…。

ありがとうございました。

[can110]

print(network)すると確認できます。
こちらで確認したところ「{'b3': array([-0.06023985,～」となっていたので
「B1」ではなく「b1」とすべきでしょう。（大文字ではなく小文字）

[achala]

変えてみたところ, 上記のエラーは出なくなりました。
ありがとうございました。

Answer 3

辞書networkにキーが登録されていません。

if 'B1' not in network:#辞書にkeyが登録されていなければTrueを返す
    #ここはそちらで合う処理をしてください（例えばデバッグに使うなど）

Comments

[achala]

ありがとうございます。
処理について確認してみようと思います。