自然言語処理に関して（pythonで）

Question

例えば以下の2つの文章（分かち書きをしている）の類似度を知りたいとします。

犬 好き
猫 好き

One-hotベクトルに直すと以下のようになります。
犬、猫、好き
[1,0,1]
[0,1,1]

ここでword2vecを使って以下のような重みベクトルを得たとします。
[0.2, 0.3]
[0.5, 0.3]
[0.4, 0.6]

これを使って、

          [0.2, 0.3]
[1,0,1] × [0.5, 0.3]
          [0.4, 0.6]

=[0.2+0.4]
 [0.3 +0.6]

=[0.6]
 [0.9]

もう一つは
[0.9]
[0.9]

のように、最初の多次元ベクトルをそれ以下の次元ベクトルに圧縮して、
この2つの低次元ベクトルの内積で文章の類似度を判別することはできないでしょうか？
できる場合、参考になるpythonコード、またはページを教えていただけますとありがたいです。

よろしくお願いいたします。

---------------追記----------------
すみません、平均ベクトルではないです。
平均ベクトルの場合は
[1,0,1]
[0,1,1]
はそれぞれ
[0.25,0,0.5]
[0,0.4,0.5]
のように3次元ベクトルとなりますが、
質問は2次元ベクトルの内積です。

よろしくお願いいたします。

Answer 1

文書中に出現した単語の単語ベクトルの平均で文書ベクトルを表すということであれば、ごく普通に行えるかと思います。

コードの参考になるかどうかまではありませんが、日本語で検索すると普通に記事が出てきます。

Word2Vecを使った文章間の類似度算出（簡易版） - Qiita
[Python]文書分類における文書ベクトル表現手法の精度比較 - Qiita

二つ目の記事ではさほど優れた方法でもないと紹介されていますが、短めの文章でカテゴリ分類などのタスクなら裸のBoWよりは良くなり得るんじゃ？　と漠然と思わなくはありません（私の主観なので気にしないでください）。

Comments

[artg]

回答ありがとうございます。ただ、平均ではなく、ベクトルの次元圧縮できるのか、できたとして精度はどうなのかという話です。
よろしくお願いいたします。

[hayataka2049]

いえ、その計算で求めているものは出現単語のベクトルの平均です（厳密には平均ではなく総和になりますが）。
あと結果が列ベクトルになるのは間違いです。（1行2列にならないといけないので）。

[artg]

ご回答ありがとうございます。
列ベクトルは間違いですが、圧縮にと平均は同じとは思えないのですが。
たとえば1　0　1ベクトルと0　1　0ベクトルは平均ですと内積0ですが、圧縮だと0にはならないはずです。
他にも大小関係が逆転するパターンもあると思います。

[hayataka2049]

上の例は犬のベクトルと好きのベクトルを平均(加算)することと同じです。という説明でいいですか？

[hayataka2049]

単語ベクトルは行ベクトルだとみなしてください。
（質問文の
＞ここでword2vecを使って以下のような重みベクトルを得たとします。
の行列の各行が各単語に対応する単語ベクトル）

[artg]

おっしゃる通りです。平均をとるの意味を勘違いしておりました。
ありがとうございました。