質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

解決済

1回答

4805閲覧

Doc2vecの単語ベクトル化の仕組みについて

trafalbad

総合スコア303

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0グッド

0クリップ

投稿2017/11/30 14:45

Doc2vecは単語をベクトル化して結果的に文章をベクトル化するのですが、例えば
イチロー
パリ

のようにいろんな単語があるとします。このような単語は何を基準にベクトル化しているのでしょうか?
これは推測なのですが
「イチロー」→スポーツ
「パリ」→土地

のような特徴のベクトルで表現されてると思います(あくまで推測ですが)。
Doc2vecが自動でこのような単語の意味の特徴をベクトル化してるとは考えにくいのですが、何か作成者が単語の特徴をベクトル化する際の基準となる辞書のようなものを作成したのでしょうか?

何を基準にDoc2vecは単語の特徴をベクトル化しているのでしょうか?

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

ベストアンサー

根底は分布仮説ですね。「似た意味の単語なら周辺に登場する単語の分布も似るはずだ」という仮説です。

単語をベクトル化するのに、文集合の中から「注目する単語の前後k個」を取ってきてその個数を数えます。文集合の中に単語がn種類あるとすると、それは「n次元のベクトル」になりますね?
それが素朴な単語ベクトルです。

ビールの前後には"飲む"とか"乾杯"とか"買う"とか"うまい"とか"酔う"とかいった単語が多そうですね。
ワインの前後も似た感じでしょうけれど、"ぶどう"とか"赤"とか"白"とか"フランス"とかいった単語がビールの場合より多そうですね。
ベクトルの中の成分が近い部分が意味の似ている部分を表していて、成分が異なる部分が意味の違う部分を表してそうだ、というアイデアです。

高次元の疎な離散値のベクトルは扱うのが面倒なので、これを低次元(100次元とか)の密な連続値のベクトルに変換する方法が考えられてきました。古くは行列の主成分分析のような方法でしたが、ニューラルネットワークを使った性能が良い実装が出ました。その名前がword2vecで、文に適用できるように変形したものがdoc2vecです。

投稿2017/12/01 00:04

編集2017/12/01 00:07
quickquip

総合スコア11029

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問