質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
NumPy

NumPyはPythonのプログラミング言語の科学的と数学的なコンピューティングに関する拡張モジュールです。

Python 2.7

Python 2.7は2.xシリーズでは最後のメジャーバージョンです。Python3.1にある機能の多くが含まれています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

解決済

1回答

2558閲覧

Numpy2次元配列からN個の最小値のインデックスを各列ごとに取得する

track

総合スコア7

NumPy

NumPyはPythonのプログラミング言語の科学的と数学的なコンピューティングに関する拡張モジュールです。

Python 2.7

Python 2.7は2.xシリーズでは最後のメジャーバージョンです。Python3.1にある機能の多くが含まれています。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0グッド

0クリップ

投稿2017/02/04 12:18

###Numpy2次元配列からN個の最小値のインデックスを各列ごとに取得する最も効率的な方法
質問させていただきます。
matrix2d = np.random.rand(60000, 2000)
という規模の2次元配列を用意し、その各列ごとにソートした場合のN個の最小値のインデックスを得たいと考えています。
Numpyを使って書くと、次のようなコードになるかと思います。

min_N = np.argpartition(matrix2d, N, axis=0)[:N, :]

しかし、私の計算環境(Corei7 6700)ではこの処理に5秒ほどかかってしまいます。
Numpyのドキュメントで<partitioning along the last axis is faster>とあったので、以下のように変更もしました。

min_N = np.argpartition(matrix2d.transpose(), N, axis=1).transpose()[:N, :]

上記のコードで約4秒ほどの計算時間となり、1秒短縮されました。

しかし、この計算は繰り返し行うものであるため、更なる高速化の手段はないでしょうか。

bottoleneck等も試しましたが、遅くなるだけでした。

環境を簡単にですが。
Python2.7, Windows10, Corei7 6700, Mem32GB

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

ベストアンサー

N個分のインデックスが必要なのに、全ての値を計算しているために遅くなっているように見えます。

Nの値はどれくらいでしょうか?
もし、Nが小さな値であれば個別の列に対して.argmin()等で最小値のインデックスをN個分とりだす処理にしたほうが早いかもしれません。

python

1def get_argmin(data, N): 2 _data = data.copy() 3 max_value = _data.max() 4 ix = np.empty(N, dtype=int) 5 for i in range(N): 6 n = _data.argmin() 7 ix[i] = n 8 _data[n] = max_value 9 return ix 10 11min_N = np.array([get_argmin(matrix2d[:, i], N) for i in range(matrix2d.shape[1])]).T

もしくは、numbaやcythonを使うという手もあるかもしれません。
環境があるときにもう少し調べてみます。

投稿2017/02/04 13:15

driller

総合スコア720

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

track

2017/02/04 13:35

回答ありがとうございます。 Nの値は1000前後です。 60000行×2000列のサイズの配列から、各列N個(1000個)の最小値インデックスを格納した1000×2000の配列を可能な限り早く求めることが目的です。 numba, cythonはまだ試していないので当方でも確認してみます。 ありがとうございます。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問