AttributeErrorについて質問です。

Question

前提・実現したいこと

ディープラーニングについて勉強したいと思い公開されていたプログラム(MNISTデータの正解数と正解率を出すプログラム)を実際に動かそうとしてみたら以下のエラーが出てきました。
どこが原因かご指摘お願いします。

発生している問題・エラーメッセージ

File “mnist.py”,line65 in<module>
y= model.forward(x)
File “mnist.py”,line40 in forward
h1= F.relu(self.l1)
AttributeError:‘DNN’object has no attribute ‘l1’

該当のソースコード

# Numpy
import numpy as np
# Chainer
import chainer
import chainer.links as L
import chainer.functions as F
from chainer import Chain, optimizers, Variable

train, test = chainer.datasets.get_mnist()

x_train = []
x_test = []
t_train = []
t_test = []

for line in train:
    x_train.append(line[0])
    t_train.append(int(line[-1]))

for line in test:
    x_test.append(line[0])
    t_test.append(int(line[-1]))

x_train = np.array(x_train, dtype=np.float32)
x_test = np.array(x_test, dtype=np.float32)
t_train = np.array(t_train, dtype=np.int32)
t_test = np.array(t_test, dtype=np.int32)

# DNNのクラス
class DNN(Chain):
    def __init__(self):
        super(DNN, self).__init__(
            l1 = L.Linear(784, 100),
            l2 = L.Linear(100, 100),
            l3 = L.Linear(100, 10)
        )
    def forward(self, x):
        h1 = F.relu(self.l1(x))
        h2 = F.relu(self.l2(h1))
        h3 = self.l3(h2)
        return h3

# DNNクラスのインスタンス
model = DNN()

# 最適化手法
optimizer = optimizers.Adam()
optimizer.setup(model)

# エポック数
n_epoch = 10

# バッチサイズ
batch_size = 1000

# 学習実行
for epoch in range(n_epoch):
    sum_loss = 0
    perm = np.random.permutation(60000)
    for i in range(0, 60000, batch_size):
        x = Variable(x_train[perm[i:i+batch_size]])
        t = Variable(t_train[perm[i:i+batch_size]])
        y = model.forward(x)
        model.cleargrads()
        loss = F.softmax_cross_entropy(y, t)
        loss.backward()
        optimizer.update()
        sum_loss += loss.data*batch_size

    print("epoch: {}, mean loss: {}".format(epoch, sum_loss/60000))

# テスト実行
cnt = 0
for i in range(10000):
    x = Variable(np.array([x_test[i]], dtype=np.float32))
    t = t_test[i]
    y = model.forward(x)
    y = np.argmax(y.data[0])
    if t == y:
        cnt += 1

# 正解数と正解率を表示
print(cnt)
print("accuracy: {}".format(cnt/(10000)))

試したこと

インターネットや本でクラスのアトリビュートについて調べて考えてみたがどこが悪いのかわからずに断念

調べた結果、DNNにl1アトリビュートがないというエラーの意味だとわかったのですが、DNNクラスの初期化メソッドでスーパークラスのinitメソッドを呼び出してここでl1、l2、l3を生成しているのでこのままで大丈夫ではないのか？と思ったのですがもし私が勘違いしている箇所があればそれについてのご指摘もできればお願いします。

補足情報（FW/ツールのバージョンなど）

Python3.6.4
chainer3.0.0(おそらく)

記載をし忘れてしまってましたがプログラムの実行直後にfuturewarning:conversion of the second argument of issubdtype from ‘float’ to ‘np.floating’ is deprecated.In future it will be treated as ‘np.float64 == np.dtype(float).type’.
from ._cov import register_converters as _register_converters
というものが出ているのですがこれは無視していていいのでしょうか？

Answer 1

手元の環境で質問文のコードを実行してみましたが、以下のRuntimeWarningが出ますが、質問文のエラーは発生しませんでした。

C:\Users(ユーザー名)\anaconda\envs\chainer-env\lib\site-packages\chainer\optimizers\adam.py:111: RuntimeWarning: invalid value encountered in sqrt
  param.data -= hp.eta * (self.lr * m / (numpy.sqrt(vhat) + hp.eps) +

◇実行環境

py:3.6.5 |Anaconda, Inc.| (default, Mar 29 2018, 13:32:41) [MSC v.1900 64 bit (AMD64)]
chainer:4.0.0
OS:Windows 10

import sys
print(f'py:{sys.version}\nchainer:{chainer.__version__}')

Answer 2

みなさんありがとうございました。Pythonを始めたばかりでinitの前後の_が2つずつ必要なことを知識として知らず、また手打ちだったため気づいておらず初期化メソッドのところのinitの前後の_の数が全て1つずつ足りていなかったようです。お騒がせしました。

Comments

[umyu]

キーワードがハイライト表示されるエディタ（Visual Studio Codeやpycharm community edition）を導入するとそういうミスが発生しずらくなりますー。ご参考まで。

Answer 3

Chainer v2を使っているのかもしれません。書き方が変わってるらしいので。

参考：
Chainer v1からChainer v2への移行 - Qiita

こっちで書いてみるとどうでしょうか。

def __init__(self, n_mid_units=100, n_out=10):
    super(DNN, self).__init__()

    with self.init_scope():
        self.l1 = L.Linear(784, 100)
        self.l2 = L.Linear(100, 100)
        self.l3 = L.Linear(100, 10)

Comments

[umyu]

DNN#forward関数でl1~l3を使っているので、self.l1~self.l3と定義する必要があるかと。

[hayataka2049]

あ、ほんとうだ。寝ぼけてました

[umyu]

つ　眠気覚ましに綾鷹

[hayataka2049]

＋１

Answer 4

そのコードを実行すると何かワーニングが出ませんか？でなければChainerのバージョンが低い気がします。ワーニングが出るようであれば、新しい作法でやってみると良いかもしれないです。

https://github.com/chainer/chainer/blob/master/chainer/link.py#L758

Answer 5

定義のところでself.をl1とかの前につけてもダメですか？
正確には代入ですが。

macOS: 10.13.4
Python 3.6.0 :: Continuum Analytics, Inc.
Chainer: 2.0.0, 4.0.0

元のコードも、hayataka2049さんのwith self.init_scope()のコード（self.l1などに変更したもの）もエラーも警告もなしに正常に実行できました。

jupyter notebookを使っていたりしますか？

Comments

[begonia3003]

self.を付けてもkeyword can‘t be an expressionと出てダメでした

[begonia3003]

Anaconda Promptで実行しています

[begonia3003]

jupyter notebookは使ってないです