質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

90.47%

  • Python 3.x

    10245questions

    Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

  • 機械学習

    984questions

    機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

  • pandas

    931questions

    Pandasは、PythonでRにおけるデータフレームに似た型を持たせることができるライブラリです。 行列計算の負担が大幅に軽減されるため、Rで行っていた集計作業をPythonでも比較的簡単に行えます。 データ構造を変更したりデータ分析したりするときにも便利です。

  • データマイニング

    31questions

    データマイニングは、購買履歴やクレジットカードの利用履歴、電話の通話履歴など企業にある大量のデータを解析して、その中に隠れたパターンやルールを探し出す技術です。DMと略されることもあります。

Pythonで3列のデータフレームを距離行列(類似度行列)に変換する方法を教えてください。

受付中

回答 2

投稿

  • 評価
  • クリップ 1
  • VIEW 1,028

yamamura

score 2

前提・実現したいこと

>>> import pandas as pd
>>> df = pd.read_csv("test.csv")
>>> df.shape
(6204141, 3)
>>> df.head()
  item1 item2     similar
0  AAA   BBB  4.820050e-05
1  CCC   DDD  1.614030e-08
2  EEE   FFF  3.445566e-08
3  GGG   HHH  1.838947e-07
4  III   JJJ  1.134076e-07


上記のような3列のデータフレームを以下のような距離行列(類似度行列)にする最適な方法は何でしょうか?
やはりfor文で実行すると処理が重くなるため、困っています。。。

    AAA    BBB         CCC DDD  ...
AAA 1   4.820050e-05   0.1 0.001
BBB 0.033   1   0.1 0.001
CCC 1   4.820050e-05   1 0.001
...

試したこと

for文でやってみましたが一晩経っても終わりませんでした。。。

補足情報(言語/FW/ツール等のバージョンなど)

  • 言語はPython3です。
  • pandasを使っていますが、何か解決に役立つライブラリがあればご共有ください。
  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 2

0

仕様の理解が十分でないかもしれませんが、
こんな感じの処理でよろしいのでしょうか?

質問に挙げている結果が対象行列でなかったので、
'A','B' と 'B','A' は別物という前提で処理しております。

import pandas as pd
df = pd.DataFrame({'item1':['C','B','A','A','B','C'],
                   'item2':['A','C','B','C','A','B'],
                   'similar':[4.,3.,2.,5.,8.,6.]})

df2 = df.pivot(index='item1', columns='item2', values='similar')
print(df2)
# =>          A    B    C
#    A      NaN  2.0  5.0
#    B      8.0  NaN  3.0
#    C      4.0  6.0  NaN

インデックス名とカラム名が同じ場合 1.0 を代入したいのであれば、こんな感じで代入できると思います。(やっつけのコードですみません)

for col in df2:
    df2[col][df2[col].index == col] = 1.0

print(df2)
# =>          A    B    C
#    A      1.0  2.0  5.0
#    B      8.0  1.0  3.0
#    C      4.0  6.0  1.0

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2017/05/10 22:50

    ありがとうございます。
    ただ、can110さんのご指摘にあるように、メモリエラーになってしまいました・・・

    キャンセル

  • 2017/05/11 00:45 編集

    あーデータがバカデカイのですね。完全に見逃してました。すみません。
    であればオンメモリーに拘らず、素直にDBを使えば良いのではないでしょうか。

    キャンセル

  • 2017/05/11 08:37

    ↑と書いたけど、それほど大きいデータでは無いような・・。
    基のデータが 6204141行ってことは、作成される pivot_tableは、高々 2500 x 2500 程度のデータフレームですよね。
    なんでメモリーエラーでるんだろ?
    もう少し考えて見ます。

    キャンセル

0

距離行列(類似度行列)について、ちゃんと理解できていないかもしれないですが
提示されたshapeだと、最大6204141*2=約1200万×約1200万の行列になるのではないでしょうか?
これほどのサイズになると通常の「密な」行列ではメモリに載らないと思います。
よって、疎行列(Sparse matrices (scipy.sparse))の利用を検討したほうがよいかと思います。
これを利用する場合、おそらく自力でAAA=0、BBB=1,...FFF=5,...のようにラベルを数値(行列位置)に変換する必要はあるかと思いますが。

参考:Pythonの疎行列ライブラリscipy.sparseの基本

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2017/05/10 22:50

    確かに、MemoryErrorが出ました!

    > これを利用する場合、おそらく自力でAAA=0、BBB=1,...FFF=5,...のようにラベルを数値(行列位置)に変換する必要はあるかと思いますが。

    これは、for文でループしないとできないでしょうか?

    キャンセル

  • 2017/05/10 23:12 編集

    具体的なコードは示せませんが、df = pd.read_csv("test.csv")で読み込みができていれば単純な2回のforループでいけるはずです。
    1回目のループでitem1とitem2列の各ラベル名をキー値、それに対応する連番なりを数値としたディクショナリdicを作ればよいです。たとえばdic["AAA"] = 0, dic["BBB"] = 1となります。
    このディクショナリはメモリに載ると思います。
    2回目のループでitem1とitem2列のラベル名からディクショナリにて行と列の位置を示す2つの数値(
    x,y)を得て、疎行列mat[x,y]にsimilarの値をセットすればよいです。
    たとえばmat[0(=AAA),1(=BBB)] = 4.820050e-05となります。
    この疎行列もおそらくメモリに載ると思います。

    キャンセル

  • 2017/05/13 16:20

    ループし始めて1日経つのですが終わらないです。。。。。

    キャンセル

  • 2017/05/14 16:30

    ループの実際のコードを質問に追記されると何かアドバイスできるかもしれません。

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 90.47%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

同じタグがついた質問を見る

  • Python 3.x

    10245questions

    Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

  • 機械学習

    984questions

    機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

  • pandas

    931questions

    Pandasは、PythonでRにおけるデータフレームに似た型を持たせることができるライブラリです。 行列計算の負担が大幅に軽減されるため、Rで行っていた集計作業をPythonでも比較的簡単に行えます。 データ構造を変更したりデータ分析したりするときにも便利です。

  • データマイニング

    31questions

    データマイニングは、購買履歴やクレジットカードの利用履歴、電話の通話履歴など企業にある大量のデータを解析して、その中に隠れたパターンやルールを探し出す技術です。DMと略されることもあります。