numpyでの複数のベクトルを結合させた1次元ベクトルと行列の複雑な積

Question

Python3でnumpyを用いて計算したいと思っております。2種類の複数のベクトルを1つのベクトルにして，行列ベクトル積を計算したいと思っております。

import numpy as np

#任意の自然数n1,n2,m1,m2,kで考えたいです．
n1 = 7 #1種類目の入力の次元
n2 = 5 #1種類目の出力の次元
m1 = 3 #2種類目の入力の次元
m2 = 2 #2種類目の出力の次元
k = 10 #データの個数

A = np.random.rand(m1, n1)
B = np.random.rand(m2, n2)
data = np.random.rand(k * n1 + k * n2)

#方法1 for文
result = np.empty(k * m1 + k * m2)
for i in range(k):
    result[m1 * i:m1*(i+1)] = np.dot(A, data[n1*i:n1*(i+1)])
for i in range(k):
    result[m1*k + m2 * i : m1*k + m2*(i+1)] = np.dot(B, data[n1*k + n2*i: n1*k + n2*(i+1)])

#方法2 ベクトルを分割し，それぞれ計算する
d1, d2 = np.split(data, [k * n1])
r1 = np.dot(d1.reshape(k, n1), A.T).ravel()
r2 = np.dot(d2.reshape(k, n2), B.T).ravel()
result = np.concatenate([r1,r2])

2つの方法で同じ結果を得ることができていますが，各値n1,n2,m1,m2,kが大きくなると時間がかかってしまいます。ベクトルを分割せずに計算する方法や，上記の2つの方法より高速に計算させる方法はありませんでしょうか？ よろしくお願いいたします。

###想定している各値の範囲
0 < n1 < 10^3
0 < n2 < 10^3
0 < m1 < 10^3
0 < m2 < 10^3
0 < k < 10^5

大きくなる可能性はありますが，現在想定している各値の範囲です。

Comments

[hayataka2049]

想定している各値n1,n2,m1,m2,kの値の大きさと処理速度の上限を記載してください。あと前の質問を解決済みにしてもらえると嬉しいです。

Answer 1

np.dotのout引数を使えば余計なコピーは減らせますが……

# viewとcopyがわかっていないと理解不能な部分
result = np.empty((m1 + m2) * k, data.dtype)
o1 = result[:k*m1].reshape(k, m1)
o2 = result[k*m1:].reshape(k, m2)

np.dot(data[:k*n1].reshape(k, n1), A.T, out=o1)
np.dot(data[k*n1:].reshape(k, n2), B.T, out=o2)

メモリコピーが減って1～2割速くなるかどうかという程度です。

あとはfloat32でやれば倍くらいになると思います。精度が十分ならそれでどうぞ。

割とメモリ食いなので（最大の条件だと結果の配列だけで1.6GB、全体ではその数倍くらいになるでしょう）貧弱なコンピュータ環境だとスワップして遅い可能性もあります。処理自体は私の環境で10秒くらいなので、そんなに遅いとも思えず。

Comments

[aaa_ytooooo]

回答いただきありがとうございます。numpyのviewとcopyを理解いたしました。この処理を複数回行う予定なので少しでも早くしたいと思っていました。参考にさせていただきます。ありがとうございます。

[hayataka2049]

(10^5, 10^3)と(10^3, 10^3)の行列積をやって(10^5, 10^3)を得るということは、結果の要素数で10^8、それぞれの要素の計算に2*10^3回くらいの浮動小数点数演算を要します。
それを2回なので4*10^11回、10秒でできたとして毎秒4*10^10回で、40GFLOPSくらいで動いていることになります。私の実行環境（この回答書いてたときは2コアのノーパソ・・・）の理論性能にかなり近いところで動いているので、なんつーかこれで文句言うつもりにはならないです。