厳密さに欠ける表現があるかもしれませんが。
多様体云々
http://scikit-learn.org/stable/modules/manifold.html
http://rindalog.blogspot.jp/2017/10/manifold-learning.html
http://kyokan.ms.u-tokyo.ac.jp/~tsuboi/tayo2003/note1.pdf
Embedding
http://tensorflow.classcat.com/2017/09/10/tensorflow-programmers-guide-embedding/
例えば、本来の2次元上では線形分離不可でも、より高次元へ一度射影することによって線形分離が可能になることがあります。
この高次元空間は容易にはプロットできません。
これをさらに2次元の多様体上に射影することで、可視化しつつ、分離することが可能になります。
次元を削減することは、低次元の多様体への写像ですので、そのような言葉を使っているのだと思われます。
別に「多様体」なんていう言葉を使わなくてもよいのですが、数学で抽象化した概念に持ち込むことによって、そのような素養があるような人を対象に、より精確に情報を伝えることができます。
「多様体上の距離」について、なんぞや、と思うのは自然です。
本来、多様体というからには付随して距離を定義する必要があるからです。
ですので、「距離」といえばコレ、みたいなものはなく、話全体の流れをくむことが必要です。
まじめな文書ならちゃんと定義しているはずです。
抜粋の場合は…
「多様体論」はかなり一般化された「幾何学」です。
距離が定義できて、性質が良ければ微分が定義できるようになります。
微分が定義できるから反復法で解が求まるわけですし、どれも重要な概念です。
ただ、工学としてただただコトバを使っているケースも多く存在します。
その際にはなんとなくのフィーリングで使う場合も多々あります。
周りにそのような使い方をしているのを聞いたことがあるからとりあえず便乗しておくケースもあるでしょう。
ただのxy平面をユーグリッド空間とも呼びます。
線形空間をヒルベルト空間とも呼びます。
馴染みがあれば、言葉だけでかなりの情報を伝達できます。
そしてこれらの空間に幾何学的な理解をしようと思うのであれば、多様体と思ってよいわけです。
正しく、「多様体」という言葉を使っている場合、「今は単純な3次元空間内の話でわかりやすく示しているが、この理論はn次元空間に拡張することもできて、今は簡単な例を示しているだけで、一般に拡張するのは容易である」という意味合いを出しています。
実際の工学的な応用ではn次元は出てこないことも多いので、意味のない表現であるケースも多くありますが…
(余談:3次元のロボットアームの可動領域についての論文で「多様体」という言葉を使っていて、この人は5次元空間にでも生息したことがあるのか、と思ったことはあります。)
多様体を理解するには、大学1,2年レベルの微分積分学(多変数)、線形代数と位相を前提知識として、およそ半年から1年で習得できます。
https://blog.goo.ne.jp/ktonegaw/e/a372a9ed92d55474cdbbb707922dc353
「埋め込み」は数学用語です。
https://ja.wikipedia.org/wiki/埋め込み_(数学)
高校物理に、「静かに」離した「滑らかな」表面上を滑るボール、があるように、
「多様体」に「埋め込み」ます。
文字→整数にLabelEncoding→埋め込み
という順に文字データを数値化して、数理モデルの枠組みの中に取り入れます。
埋め込みが一意ではなく、有効な埋め込みがモデルの性能を引き上げる例。
http://tech-blog.abeja.asia/entry/poincare-embeddings