numpy <- cupy で、np.add.atのエラー

Question

GPUを使うために以下のコードを実行すると
AttributeError: 'cupy.core._kernel.ufunc' object has no attribute 'at'
というエラーとなります。GPUは、geForce GTX 750Ti ですがcuda、cudnn などの問題でしょうか。

import cupy as np
np.cuda.set_allocator(np.cuda.MemoryPool().malloc)
np.add.at = np.scatter_add

参考「ゼロから作るdeep learning 2」

# coding: utf-8
from common.config import GPU


if GPU:
    import cupy as np
    np.cuda.set_allocator(np.cuda.MemoryPool().malloc)
    np.add.at = np.scatter_add

    print('\033[92m' + '-' * 60 + '\033[0m')
    print(' ' * 23 + '\033[92mGPU Mode (cupy)\033[0m')
    print('\033[92m' + '-' * 60 + '\033[0m\n')
else:
    import numpy as np

Answer 1

私も同書で同じエラーに遭遇しましたが以下のように対処しました。
上記でも説明されているようにcupy.addにはatという属性がありませんが、
cupyのメソッドを調べてみるとnumpy.add.atとcupy.scatter_addは等価です。
なので、cupyを使う時にはnp.add.atを使っている箇所で、例えばcommon.config.GPUをフラグにして、
np.add.atとcupy.scatter_addを切り替えてやることで先に進めました。
GTX1070で、数十分位で学習できました。ご参考まで。

Answer 2

すみません、横から失礼します。

私もまさにその部分でエラーが出て止まってしまった為、
①common.np中のnp.add.at = np.scatter_add の記載をコメントアウトして
②common.layers中のEmbeddingの逆伝播中の np.add.atの部分を cupy.scatter_addに書き換えてみたのですが動かず。

③common.config中で np.add.at = cupy.scatter_add を記載しないとダメだということでしょうか？

Comments

[mkoba_14]

③は要りません。configはそのままで結構だと思います。
common.npではGPUを選択するとimport cupy as npとなっているので、
②のEmbedding内ではcupy.scatter_addでなくnp.scatter_addでよいですね。
(先の説明では適当なことを言ってしまいました・・・。
"cupy"で呼び出してしまうと、Embeddingの中のimport文を変更する必要があります。）
＊以上はもちろんCUDAとcupyが適切にインストールされていることが前提です。

[Panda3010]

早速の詳細なアドバイス有難うございます！試してみます。

[Panda3010]

おかげ様で、以下修正をすることでcupy/gpuベースで動かすことができました。有り難うございました。

①common.np中の np.add.at = np.scatter_add をコメントアウト
（これを残すとまだ cupyの no attribute 'at' エラーが出ました）
②common.layer中の Embedding 逆伝播の中を以下のif文に書き換え

if GPU:
np.scatter_add(dW, self.idx, dout)
else:
np.add.at(dW, self.idx, dout)

[teefpc]

みなさん、有益な情報をどうもありがとうございました。

Answer 3

エラーメッセージは、cupy.addにはatという属性がないという文法上のエラーかと思われます。公式ドキュメントによるとcupy.addは関数なので、記法としては、cupy.add(a,b）aエラーメッセージは、cupy.addにはatという属性がないという文法上のエラーかと思われます。公式ドキュメントによるとcupy.addは関数なので、記法としては、cupy.add(a,b）が正しいようです。（aおよびbはcupy用に変換された配列）

また、cupy.addは関数なので戻り値があります。よって、＝を使うのであれば、cupy.addは右辺にないとまずいように思います。

Comments

[teefpc]

ありがとうございました。