質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.48%
深層学習

深層学習は、多数のレイヤのニューラルネットワークによる機械学習手法。人工知能研究の一つでディープラーニングとも呼ばれています。コンピューター自体がデータの潜在的な特徴を汲み取り、効率的で的確な判断を実現することができます。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

Q&A

解決済

1回答

5856閲覧

「多様体(manifold)」と「embedding」

leilei

総合スコア39

深層学習

深層学習は、多数のレイヤのニューラルネットワークによる機械学習手法。人工知能研究の一つでディープラーニングとも呼ばれています。コンピューター自体がデータの潜在的な特徴を汲み取り、効率的で的確な判断を実現することができます。

機械学習

機械学習は、データからパターンを自動的に発見し、そこから知能的な判断を下すためのコンピューターアルゴリズムを指します。人工知能における課題のひとつです。

0グッド

1クリップ

投稿2018/03/29 06:52

編集2018/03/29 06:53

dimension圧縮や空間変換に時々出る言葉として、多様体(manifold)embeddingがあります。
なんで多様体なの? 「多様体上の距離」とはどんな距離?
なんでdimension圧縮や空間変換分野にこの言葉が必要でしょうか。

それから、embeddingという言葉も可笑しく感じます。
そのまま訳すると「埋め込む」になりますが、本当に「埋め込む」なの?
どうして「埋め込む」ということが必要でしょうか?

多様体に関して:例えば、
manifold learning
manifold ranking
多様体上の距離

多様体とembedding:例えば、
"特徴データを多様体にembedding "

どんな側面からのご解説にも嬉しいです。

どうぞ宜しくお願いいたします。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

defghi1977

2018/03/29 07:03

一般的な”空間”内の図形のことを数学(幾何学)で多様体と呼ぶので, そこからの概念の引用ではないでしょうか?
leilei

2018/03/29 10:51

『一般的な”空間”』 とは「Euclidean 空間」以外の空間ですね?
defghi1977

2018/03/29 11:02

いいえ, なんとなくそう思っただけで. 距離とか多様体とか幾何学っぽいなーと
mkgrei

2018/03/29 11:05

「Euclidean空間」に限らない空間のことを、「より一般的な空間」というのでは。
guest

回答1

0

ベストアンサー

厳密さに欠ける表現があるかもしれませんが。


多様体云々
http://scikit-learn.org/stable/modules/manifold.html
http://rindalog.blogspot.jp/2017/10/manifold-learning.html
http://kyokan.ms.u-tokyo.ac.jp/~tsuboi/tayo2003/note1.pdf

Embedding
http://tensorflow.classcat.com/2017/09/10/tensorflow-programmers-guide-embedding/


例えば、本来の2次元上では線形分離不可でも、より高次元へ一度射影することによって線形分離が可能になることがあります。
この高次元空間は容易にはプロットできません。
これをさらに2次元の多様体上に射影することで、可視化しつつ、分離することが可能になります。
次元を削減することは、低次元の多様体への写像ですので、そのような言葉を使っているのだと思われます。

別に「多様体」なんていう言葉を使わなくてもよいのですが、数学で抽象化した概念に持ち込むことによって、そのような素養があるような人を対象に、より精確に情報を伝えることができます。

「多様体上の距離」について、なんぞや、と思うのは自然です。
本来、多様体というからには付随して距離を定義する必要があるからです。
ですので、「距離」といえばコレ、みたいなものはなく、話全体の流れをくむことが必要です。
まじめな文書ならちゃんと定義しているはずです。
抜粋の場合は…

「多様体論」はかなり一般化された「幾何学」です。
距離が定義できて、性質が良ければ微分が定義できるようになります。
微分が定義できるから反復法で解が求まるわけですし、どれも重要な概念です。

ただ、工学としてただただコトバを使っているケースも多く存在します。
その際にはなんとなくのフィーリングで使う場合も多々あります。
周りにそのような使い方をしているのを聞いたことがあるからとりあえず便乗しておくケースもあるでしょう。

ただのxy平面をユーグリッド空間とも呼びます。
線形空間をヒルベルト空間とも呼びます。
馴染みがあれば、言葉だけでかなりの情報を伝達できます。
そしてこれらの空間に幾何学的な理解をしようと思うのであれば、多様体と思ってよいわけです。

正しく、「多様体」という言葉を使っている場合、「今は単純な3次元空間内の話でわかりやすく示しているが、この理論はn次元空間に拡張することもできて、今は簡単な例を示しているだけで、一般に拡張するのは容易である」という意味合いを出しています。
実際の工学的な応用ではn次元は出てこないことも多いので、意味のない表現であるケースも多くありますが…
(余談:3次元のロボットアームの可動領域についての論文で「多様体」という言葉を使っていて、この人は5次元空間にでも生息したことがあるのか、と思ったことはあります。)

多様体を理解するには、大学1,2年レベルの微分積分学(多変数)、線形代数と位相を前提知識として、およそ半年から1年で習得できます。
https://blog.goo.ne.jp/ktonegaw/e/a372a9ed92d55474cdbbb707922dc353


「埋め込み」は数学用語です。
https://ja.wikipedia.org/wiki/埋め込み_(数学)

高校物理に、「静かに」離した「滑らかな」表面上を滑るボール、があるように、
「多様体」に「埋め込み」ます。

文字→整数にLabelEncoding→埋め込み
という順に文字データを数値化して、数理モデルの枠組みの中に取り入れます。

埋め込みが一意ではなく、有効な埋め込みがモデルの性能を引き上げる例。
http://tech-blog.abeja.asia/entry/poincare-embeddings

投稿2018/03/29 07:59

編集2018/03/29 08:06
mkgrei

総合スコア8560

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

leilei

2018/03/29 11:10 編集

分かりやすく丁寧なご解説ありがとうございます! 概念的に大体分かりました。 ちょっと変な質問と思われますかも知れませんが、「埋め込み」という言葉に抵抗感ありまして、 空間変換や射影などの意味なら分かりますが、どうして「埋め込み」という表現になるのでしょうか。 それから、多様体=非Euclideanと考えたら良いでしょうか。
leilei

2018/03/29 11:14

<<異空間への埋め込み!Poincare Embeddingsが拓く表現学習の新展開 >> さすが「驚き」ですね。 ありがとうございます。
mkgrei

2018/03/29 18:51

まず、多様体∋Euclidean、です。 ユークリッド空間は最も単純な多様体の一つです。 ですので、普通の空間をユークリッド空間と呼ぶことも、多様体と呼ぶことも可能です。 「埋め込み」の説明が少々雑でした。 こちらの記事をお読みになると少しイメージが湧くのかもしれません。 http://www.shinshu-u.ac.jp/faculty/science/quest/research/post-66.php
leilei

2018/03/30 00:46 編集

mkgrei様 お世話になっております。 お陰様で概念的にある程度分かったような気がします。 ユークリッド空間的な距離定義が特徴空間に適用できない可能性があるので、一般的な空間(多面体)が導入されるわけですね。 じゃー、一般的な空間の距離計算法はなんでしょうか。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.48%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問