pythonのnumpy計算について

Question

##numpyの計算について
以下に掲載するプログラムのなかで、

for k in range(K):
        w[k] = w[k]-(X[n]*eta*((z[n,k]-t[n,k])))

をfor文を使わずに書く方法を教えて欲しいです。
（自分はこれよりスマートに書く方法を知らないので教えて欲しいです。）

##プログラム

import numpy as np
import makeGaussianData
import matplotlib.pyplot as plt

K = 3
X, lab, t = makeGaussianData.getData(K)

w = 0.02*np.random.rand(K,X.shape[1])-0.01 #1.パラメータの初期化
z = np.empty((X.shape[0],K))
b = 0.02*np.random.rand(K)-0.01
h = np.empty(X.shape[0],)
eta = 0.01
cnt = 0

def softmax(a):
    u = np.exp(a)
    return u/np.sum(u)

for i in range(30000): #2.適当な回数の繰り返し（学習データは600個）
    n = np.random.randint(0,600) #i.600個のデータからランダムで1つ選択
    z[n] = softmax(X[n] @ w.T + b)
    h[n]= -t[n]@np.log(z[n]) #ii.モデルの出力を求める
    for k in range(K):
        w[k] = w[k]-(X[n]*eta*((z[n,k]-t[n,k])))
    b = b-(eta*(z[n]-t[n])) #iii.パラメータの更新
    if i % 1000 == 0: #2.iv. 1000の倍数になったときの処理
        for j in range(X.shape[0]):
            z[j]=softmax(X[j] @ w.T + b)
            h[j]= (-t[j])@np.log(z[j])
        cnt=np.count_nonzero(((z>0.5) == t).all(axis=1))
        H = np.mean(h)
        print("#{0}, H:{1} , {2}/{3}={4}".format(i,H,cnt,X.shape[0],cnt/X.shape[0]))
        cnt=0

fig = plt.figure()
plt.xlim(-0.2, 1.2)
plt.ylim(-0.2, 1.2)
ax = fig.add_subplot(1, 1, 1)
ax.set_aspect(1)
ax.scatter(X[lab == 0, 0], X[lab == 0, 1], color = 'red')
ax.scatter(X[lab == 1, 0], X[lab == 1, 1], color = 'green')
if K == 3:
    ax.scatter(X[lab == 2, 0], X[lab == 2, 1], color = 'blue')

fig.show()
plt.show()

makeGaussianData.py

import numpy as np


def getData(nclass, seed = None):

    assert nclass == 2 or nclass == 3

    if seed != None:
        np.random.seed(seed)

    # 2次元の spherical な正規分布3つからデータを生成
    X0   = 0.10 * np.random.randn(200, 2) + [ 0.3, 0.3 ]
    X1   = 0.10 * np.random.randn(200, 2) + [ 0.7, 0.6 ]
    X2   = 0.05 * np.random.randn(200, 2) + [ 0.3, 0.7 ]

    # それらのラベル用のarray
    lab0 = np.zeros(X0.shape[0], dtype = int)
    lab1 = np.zeros(X1.shape[0], dtype = int) + 1
    lab2 = np.zeros(X2.shape[0], dtype = int) + 2

    # X （入力データ）, label （クラスラベル）, t（教師信号） をつくる
    if nclass == 2:
        X = np.vstack((X0, X1))
        label = np.hstack((lab0, lab1))
        t = np.zeros(X.shape[0])
        t[label == 1] = 1.0
    else:
        X = np.vstack((X0, X1, X2))
        label = np.hstack((lab0, lab1, lab2))
        t = np.zeros((X.shape[0], nclass))
        for ik in range(nclass):
            t[label == ik, ik] = 1.0

    return X, label, t
    

if __name__ == '__main__':

    import matplotlib
    import matplotlib.pyplot as plt

    K = 3
    
    X, lab, t = getData(K)

    fig = plt.figure()
    plt.xlim(-0.2, 1.2)
    plt.ylim(-0.2, 1.2)
    ax = fig.add_subplot(1, 1, 1)
    ax.set_aspect(1)
    ax.scatter(X[lab == 0, 0], X[lab == 0, 1], color = 'red')
    ax.scatter(X[lab == 1, 0], X[lab == 1, 1], color = 'green')
    if K == 3:
        ax.scatter(X[lab == 2, 0], X[lab == 2, 1], color = 'blue')
    plt.show()

Answer 1

詳細を追い切れていませんが、forを使わずに書くという目的だけなら、次のようになります。

w = w - X[n] * eta * ((z[n] - t[n]).reshape(K, 1))

X[n], z[n] - t[n]は一次元の配列ですが、z[n] - t[n]をreshapeで(K, 1)の二次元配列に変換してから、X[n]と掛け算することで、ブロードキャストによりforループでの計算相当ができます。

これは、やっていることは外積の計算とおなじなのでnumpy.outer()が使えそうです。

w = w - eta * np.outer(z[n] - t[n], X[n])

Answer 2

makeGaussianDataってのがよく分からないので試せませんが、w,X,z,tはすべてnumpyの配列ですね。
だとしたら、下記のように配列の要素ごとの四則演算が可能です。ですので、for文で回さなくても、配列まとめて計算してしまえばと思います。

import numpy as np
A = np.array([[1, 2],[3, 4]])
print(A)
#[[1 2]
#[3 4]]
B = np.array([[5, 6], [7, 8]])
print(B)
#[[5 6]
#[7 8]]

C = A * B
print(C)
#[[ 5 12]
#[21 32]]

D = A + B
print(D)
#[[ 6  8]
#[10 12]]

k = 2
E = k*A
print(E)
#[[2 4]
#[6 8]]

Comments

[takuya324232506]

回答ありがとうございます。
こちらのプログラム掲載に不備があったのでそれを修正しますのでお願いします