質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

pandas

Pandasは、PythonでRにおけるデータフレームに似た型を持たせることができるライブラリです。 行列計算の負担が大幅に軽減されるため、Rで行っていた集計作業をPythonでも比較的簡単に行えます。 データ構造を変更したりデータ分析したりするときにも便利です。

データマイニング

データマイニングは、購買履歴やクレジットカードの利用履歴、電話の通話履歴など企業にある大量のデータを解析して、その中に隠れたパターンやルールを探し出す技術です。DMと略されることもあります。

Q&A

2回答

3789閲覧

Pythonで3列のデータフレームを距離行列(類似度行列)に変換する方法を教えてください。

yamamura

総合スコア8

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

pandas

Pandasは、PythonでRにおけるデータフレームに似た型を持たせることができるライブラリです。 行列計算の負担が大幅に軽減されるため、Rで行っていた集計作業をPythonでも比較的簡単に行えます。 データ構造を変更したりデータ分析したりするときにも便利です。

データマイニング

データマイニングは、購買履歴やクレジットカードの利用履歴、電話の通話履歴など企業にある大量のデータを解析して、その中に隠れたパターンやルールを探し出す技術です。DMと略されることもあります。

0グッド

1クリップ

投稿2017/05/09 13:30

###前提・実現したいこと

python

1>>> import pandas as pd 2>>> df = pd.read_csv("test.csv") 3>>> df.shape 4(6204141, 3) 5>>> df.head() 6 item1 item2 similar 70 AAA BBB 4.820050e-05 81 CCC DDD 1.614030e-08 92 EEE FFF 3.445566e-08 103 GGG HHH 1.838947e-07 114 III JJJ 1.134076e-07

上記のような3列のデータフレームを以下のような**距離行列(類似度行列)**にする最適な方法は何でしょうか?
やはりfor文で実行すると処理が重くなるため、困っています。。。

python

1 AAA BBB CCC DDD ... 2AAA 1 4.820050e-05 0.1 0.001 3BBB 0.033 1 0.1 0.001 4CCC 1 4.820050e-05 1 0.001 5...

###試したこと
for文でやってみましたが一晩経っても終わりませんでした。。。

###補足情報(言語/FW/ツール等のバージョンなど)

  • 言語はPython3です。
  • pandasを使っていますが、何か解決に役立つライブラリがあればご共有ください。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答2

0

距離行列(類似度行列)について、ちゃんと理解できていないかもしれないですが
提示されたshapeだと、最大6204141*2=約1200万×約1200万の行列になるのではないでしょうか?
これほどのサイズになると通常の「密な」行列ではメモリに載らないと思います。
よって、疎行列(Sparse matrices (scipy.sparse))の利用を検討したほうがよいかと思います。
これを利用する場合、おそらく自力でAAA=0、BBB=1,...FFF=5,...のようにラベルを数値(行列位置)に変換する必要はあるかと思いますが。

参考:Pythonの疎行列ライブラリscipy.sparseの基本

投稿2017/05/10 01:47

can110

総合スコア38233

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

yamamura

2017/05/10 13:50

確かに、MemoryErrorが出ました! > これを利用する場合、おそらく自力でAAA=0、BBB=1,...FFF=5,...のようにラベルを数値(行列位置)に変換する必要はあるかと思いますが。 これは、for文でループしないとできないでしょうか?
can110

2017/05/10 14:19 編集

具体的なコードは示せませんが、df = pd.read_csv("test.csv")で読み込みができていれば単純な2回のforループでいけるはずです。 1回目のループでitem1とitem2列の各ラベル名をキー値、それに対応する連番なりを数値としたディクショナリdicを作ればよいです。たとえばdic["AAA"] = 0, dic["BBB"] = 1となります。 このディクショナリはメモリに載ると思います。 2回目のループでitem1とitem2列のラベル名からディクショナリにて行と列の位置を示す2つの数値( x,y)を得て、疎行列mat[x,y]にsimilarの値をセットすればよいです。 たとえばmat[0(=AAA),1(=BBB)] = 4.820050e-05となります。 この疎行列もおそらくメモリに載ると思います。
yamamura

2017/05/13 07:20

ループし始めて1日経つのですが終わらないです。。。。。
can110

2017/05/14 07:30

ループの実際のコードを質問に追記されると何かアドバイスできるかもしれません。
guest

0

仕様の理解が十分でないかもしれませんが、
こんな感じの処理でよろしいのでしょうか?

質問に挙げている結果が対象行列でなかったので、
'A','B' と 'B','A' は別物という前提で処理しております。

Python

1import pandas as pd 2df = pd.DataFrame({'item1':['C','B','A','A','B','C'], 3 'item2':['A','C','B','C','A','B'], 4 'similar':[4.,3.,2.,5.,8.,6.]}) 5 6df2 = df.pivot(index='item1', columns='item2', values='similar') 7print(df2) 8# => A B C 9# A NaN 2.0 5.0 10# B 8.0 NaN 3.0 11# C 4.0 6.0 NaN

インデックス名とカラム名が同じ場合 1.0 を代入したいのであれば、こんな感じで代入できると思います。(やっつけのコードですみません)

Python

1for col in df2: 2 df2[col][df2[col].index == col] = 1.0 3 4print(df2) 5# => A B C 6# A 1.0 2.0 5.0 7# B 8.0 1.0 3.0 8# C 4.0 6.0 1.0

投稿2017/05/09 23:56

magichan

総合スコア15898

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

yamamura

2017/05/10 13:50

ありがとうございます。 ただ、can110さんのご指摘にあるように、メモリエラーになってしまいました・・・
magichan

2017/05/10 15:46 編集

あーデータがバカデカイのですね。完全に見逃してました。すみません。 であればオンメモリーに拘らず、素直にDBを使えば良いのではないでしょうか。
magichan

2017/05/10 23:37

↑と書いたけど、それほど大きいデータでは無いような・・。 基のデータが 6204141行ってことは、作成される pivot_tableは、高々 2500 x 2500 程度のデータフレームですよね。 なんでメモリーエラーでるんだろ? もう少し考えて見ます。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

まだベストアンサーが選ばれていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問