異なるアイテムがあるリスト間の順位相関係数を算出したい(DataFrame操作)

Question

文字だとうまく伝わらないと思うので、図で失礼します。
例は８行ですが実際は１００行位で行おうと思っています。
違う列との重複を考えたり、それらを抽出して並び替えたりと自分の身の丈にあっていない作業であることは重々承知なのですがどうしてもやり遂げなければならず、せめて③のスコア表示まででも良いのでたどり着きたいと思っております...！
どなたかご教授よろしくお願い致します・・・！

こちらが例のexcelデータになります

すみません、ⅲ)は使わなくても良さそうです。

Answer 1

質問に挙げている手順をそのまま実装すると良いだけです。

少し補足すると

1. 共通要素の抽出は numpy.intersect1d() を使うとよい。
2. 次に df[df.isin(共通要素)] で共通要素以外をNanにする
3. X,Yの列毎に dropna()した後に順番を振る
4. 上記のX,Yの順位データを結合
5. df.corr() にて相関係数を計算

となります。

一応サンプルを書いてみましたので参考にしてください。

X,Y共に重複がない前提です。

import pandas as pd
import numpy as np

df = pd.DataFrame({
    'X':['A','1','C','D','2','B','3','4'],
    'Y':['A','B','5','C','6','7','D','8']})

# X列とY列の共通要素を抽出
common_value = np.intersect1d(df.X, df.Y)
n = common_value.size

# 共通要素以外をNanとする
df = df[df.isin(common_value)]

# Xの順位データ生成
x_order = pd.Series(range(1, n+1), index=df.X.dropna(), name='X')

# Yの順位データ生成
y_order = pd.Series(range(1, n+1), index=df.Y.dropna(), name='Y')

# XとYの順位データを結合
orders = pd.concat([x_order, y_order], axis=1)

# DataFrame.corr() で算出できる
print(orders.corr(method='spearman'))
#     X    Y
#X  1.0  0.4
#Y  0.4  1.0


# 一応計算式でも算出してみる
print(1 - 6 * ((orders.X - orders.Y) ** 2).sum() / ((n**3) - n))
# 0.4

Comments

[James1201]

有難うございました！
行と列の操作など、とても勉強になりました。
また機会がありましたらよろしくお願い致します。

Answer 2

注:直打ちなのでセルフデバッグしてください。

もとのデータフレームをdfとします。

x = set(df["X"].values)
y = set(df["Y"].values)
u = x & y

これでuの共通要素が取り出されます。

x_ = [v for v in df["X"] if v in u]
y_ = [v for v in df["Y"] if v in u]

これが欲しい要素です。

ex_ = {v:i+1 for i,v in enumerate(x_)}
ey_ = {v:i+1 for i,v in enumerate(y_)}

番号を対応づけます。

col = sorted(u)
ans = pd.DataFrame(columns=col)
ox_ = [ex_[k] for k in col]
oy_ = [ey_[k] for k in col]
ans.iloc[0] = ox_
ans.iloc[1] = oy_
ans = ans.T
ans.columns = ['X','Y']

要素を並び替えてDataFrameに入れる。XとYまで。

ans['X-Y'] = ans['X'] - ans['Y']
ans['(X-Y)^2'] = ans['X-Y']* *2
ans = ans.T

スコアまで。

Comments

[James1201]

迅速に対応していただきありがとうございます。
こちらのスクリプトも解決する上でとても参考になりました！
ただ、申し訳ありませんがB.A.は相関までご教授いただいた方にいたします。
また機会がありましたらよろしくお願い致します。