LinearDiscriminantAnalysis(LDA)の線形写像の行列がどのAttributesであるか

Question

LinearDiscriminantAnalysis(LDA)の線形写像の行列がどのAttributesであるか。

sklearn.discriminant_analysis.LinearDiscriminantAnalysisのLDAを用いて機械学習を行っていたのですが、LDAはクラス内共分散行列とクラス間共分散行列行列をいい感じな仮定の下で立式し、一般化固有値問題を解くことで写像する行列を算出するものであると考えています。
事実、fit_transformはその変換後の行列を作成します。
しかし、その変換行列がどのAttributesであるかいまいち分かりません。
行列の形からscalings_かなとも思ったのですが、たぶん違います。
もしわかる方がいれば教えていただけると大変助かります。

よろしくお願いいたします！！

Answer 1

細かい理屈はよくわからないので置いておくとして、

scikit-learn/discriminant_analysis.py at b194674c42d54b26137a456c510c5fdba1ba23e0 · scikit-learn/scikit-learn

transformの実装を見るとscalings_でいいようです。

Comments

[yu__]

ご返信ありがとうございました。
適当なデータで試してみたのですが、ご意見聞かせていただけると嬉しいです。

import numpy as np
from sklearn.datasets import load_digits
from sklearn import discriminant_analysis

digits = load_digits()
lda = discriminant_analysis.LinearDiscriminantAnalysis(n_components=9)
digits_lda = lda.fit_transform(digits.data, digits.target)

print(np.dot(digits.data,lda.scalings_).shape)
print(digits_lda.shape)

出力
(1797, 9)
(1797, 9)

となり、いいような気がするのですが、写像された一枚目の画像について見てみると、

np.dot(digits.data,lda.scalings_)[0]
出力
array([-0.85981203, -4.65945014, -0.01808578, -2.402779 , -0.7270527 ,
0.7643913 , 0.12510745, 0.2206956 , 1.94414747])

digits_lda[0]
出力
array([-2.0146322 , -5.62348616, -0.18659403, -2.80010872, 0.443373 ,
0.57975458, -0.10934851, -0.18350667, 0.96549542])

となり、明らかに違うように思われます。
もし解釈におかしい点があれば教えていただけると大変助かります！
よろしくお願いいたします。

[hayataka2049]

svdソルバーで解く場合、実装を見ると

X_new = np.dot(X - self.xbar_, self.scalings_)

という処理になっていますね。eigenソルバー（固有値分解）に設定すればそれでいけるかと。

[yu__]

解決しました。非常に助かりました。
ありがとうございました！
ベストアンサーにさせていただきました。