質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

87.61%

縦持ちの表形式のデータを高速で横持ちのnumpy配列にしたい

解決済

回答 2

投稿 編集

  • 評価
  • クリップ 3
  • VIEW 1,118

score 28

困っていること

下記のような処理をおよそ1万回実行する必要があり、高速化を検討しています。
並列化も検討できるのですが、まずは素直に処理方法を見直すことで高速化できる知恵を頂きたいです。

やりたいこと

ソースコードに記載している通りITEMとその数値を保持している表形式の元データがあります。
その元データに対して、

数値を1件単位に分割したうえで横持ちのNUMPY配列にしたいです

データフレーム等を使わなければ高速化できるのか?などを試行錯誤中です。
ソースコードはそのまま実行できるように記述しています。

元データ:dict_arr
変換後のデータ:ndarr
期待する結果

print(ndarr)
#[[1 1 1 1 0 0 0 0 0 0 0 0 0 0 0 1 1]
# [0 0 0 0 1 1 1 1 1 0 0 0 0 0 0 0 0]
# [0 0 0 0 0 0 0 0 0 1 1 1 1 1 1 0 0]]


ソースコード

import pandas as pd
import numpy as np
dict_arr = {'ITEM':["A","B","C","A"],'NUM':[4,5,6,2]}
df = pd.DataFrame(dict_arr)

df2 = pd.DataFrame(data=None, columns=df.columns)
for idx, row in df.iterrows():
    for i in range(row['NUM']):
        df2 = df2.append(row)

df2.reset_index(inplace=True)
df2['COL'] = df2.index
df2['ONE'] = 1

df2_piv = pd.pivot_table(df2, index=['ITEM'], columns='COL', values='ONE',fill_value=0, aggfunc=np.sum).reset_index()
df2_piv.sort_values('ITEM',inplace=True)
df2_piv.drop(columns=['ITEM'], axis=1, inplace=True)
ndarr = df2_piv.values
  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 過去に投稿した質問と同じ内容の質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

質問への追記・修正、ベストアンサー選択の依頼

  • mather

    2019/01/23 11:29 編集

    > 数値を1件単位に分割したうえで横持ちのNUMPY配列にしたいです
    という内容がわかりにくいので、期待値である ndarr の内容を質問に記載したほうがいいと思います。
    わざわざ実行しないと期待値がわからないのは面倒です。

    キャンセル

  • iMasa

    2019/01/24 07:32

    修正しました。
    確かにおっしゃる通りです。
    ご指摘ありがとうございました。

    キャンセル

回答 2

checkベストアンサー

+2

import pandas as pd
import numpy as np

dict_arr = {'ITEM':["A","B","C","A"],'NUM':[4,5,6,2]}

data = np.array([x for i, n in 
                 zip(dict_arr["ITEM"], dict_arr["NUM"]) 
                 for x in [i]*n])
idx = np.unique(dict_arr["ITEM"])
ndarr = np.zeros((len(idx), len(data)), dtype=int)

for i, x in enumerate(idx):
    ndarr[i, data==x] = 1

print(ndarr)

質問文のデータではオリジナルの3桁倍速かったけど、より大きいデータでスケールするかは確認していません。というか無駄が多いのでもう少し良い方法があると思う。

投稿

編集

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2019/01/23 20:29

    回答ありがとうございます。
    よりシンプルな記述の方をベストアンサーにさせて頂きました。
    速度比較をさせて頂きます。

    キャンセル

  • 2019/01/24 07:24 編集

    こちらの方が速度がでましたのでベストアンサーとさせて頂きました。
    無駄が多いのは間違いありません。
    今はプログラミング力の高いエンジニアが不足している、かつ開発を依頼する業務担当の私もシステムに関する理解が低い状況です。
    そのため要件もはじめからFIXさせることも難しく、外注すると膨大な費用がかかります。なので少しでも自分で・・・と思い努力しています。
    このようなスポット解決の相談に乗っていただけるのは非常に助かります。

    キャンセル

+2

とりあえず、現在行っている処理は、下記のようにかなりシンプルに書けそうです。これで処理時間は 1/10 くらいになります。

import pandas as pd
import numpy as np
dict_arr = {'ITEM':["A","B","C","A"],'NUM':[4,5,6,2]}
df = pd.DataFrame(dict_arr)

df2 = df.apply(lambda d: pd.Series([d['ITEM']]*d['NUM']), axis=1).stack()
ndarr = pd.get_dummies(df2).values.T
print(ndarr)
#[[1 1 1 1 0 0 0 0 0 0 0 0 0 0 0 1 1]
# [0 0 0 0 1 1 1 1 1 0 0 0 0 0 0 0 0]
# [0 0 0 0 0 0 0 0 0 1 1 1 1 1 1 0 0]]

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2019/01/23 20:27 編集

    お二方に頂いた双方をためして勉強したいと思います。
    回答ありがとうございます。

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 87.61%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

関連した質問

同じタグがついた質問を見る