主成分分析：射影、再構成誤差

Question

#主成分分析のおける射影と再構成誤差についての質問をさせて頂きたいです。
##(問)
2次元空間において「(-1,-1),(0,0),(1,1)」という3つのデータ点が与えられ、これらのデータに対して主成分分析を適用した時の射影と再構成誤差について

###質問1:
第一主成分によって得られる1次元空間へデータ点「(-1,-1),(0,0),(1,1)」を射影した時の
1次元空間においてそれぞれの点の座標は何か?

######行ったこと:
第一主成分(1/√2,1/√2)のx軸とy軸をそれぞれのデータ点と掛けた和である
1/√2*(-1)+1/√2*(-1)=√2,
1/√20+1/√20=0,
1/√21+1/√21=√2
A.(√2,0,√2)と計算しました。

######疑問点:
この認識であっているかどうかをお聞きしたいです

###質問2:
質問1で1次元空間に射影されたデータを元の2次元空間に再構成すると、再構成誤差(元のデータと再構成したデータとの誤差)は何%か?

######行ったこと:
再構成誤差が元の点「(-1,-1),(0,0),(1,1)」と射影点「(√2,1,√2)」の平均二乗誤差と考え計算

(1/2){((√2-(-1))2+(√2-(-1))2)(1/2)}=(1/2)*(2(3+2√2))(1/2),
(1/2){((1-0)**2+(1-0)2)(1/2)} = √2/2,
(1/2){((√2-1)2+(√2-1)2)(1/2)}=(1/2)*(2(3-2√2))(1/2)
より
√3+√2/2と計算しました。

######疑問点:
・まず再構成誤差自体はこの計算方法と値で合っているのかどうか
・もし合っているならば何と割り算をして誤差を%として求めれば良いのか
という点についてお聞きしたいです。

Answer 1

質問１　この認識であっているかどうかをお聞きしたいです

間違っています。
-√2と0と√2です。

質問2:

すべての点の第二主成分がゼロなので、誤差はゼロです。

Comments

[komeko]

回答して頂きありがとうございます。

質問1についての指摘ありがとうございました。
質問2について
"すべての点の第二主成分がゼロなので、誤差はゼロ"とのことですが
全ての点とはどの点のことを指しているのか、
またなぜ誤差が0になるかをよろしければ教えていただけないでしょうか。

[ppaul]

(-1,-1),(0,0),(1,1)という元の点です。
その重心である(0,0)を起点として元の点をベクトルと考えたときの３個のベクトルを考えます。
第一主成分は、３個のデータにもっとも影響を与える方向ベクトルのことで、固有値の絶対値が最大のものに対する固有ベクトルとなります。

この場合は、３点が直線状に並んでいるので、ゼロでない固有値は一つしかなくその固有ベクトルは(1,1)で正規化すれば(√2/2,√2/2)です。
もう一つの固有値がゼロであることを「第二主成分がゼロ」とかいたのですが、「２番目の固有値がゼロ」と書いたほうが正確でしたね。

主成分分析を行うのは、n次元空間のサンプルをより少ない次元のサンプルに射影してデータ量を減らすためです。二次元のサンプルの場合には次元を減らすには１次元か０次元にするのですが、今回は１次元にしていますね。
与えられた３点が直線状にあるので、１次元化した情報は何も情報が失われていません。これが誤差がゼロという意味です。

[komeko]

とても丁寧に説明して頂きありがとうございます！
誤差がなぜ0かが理解することができました。
迅速にお返事して頂きありがとうございます。