GLSLでの、ピクセル位置から辺までの距離

Question

画像のような３頂点ABCがあるとします。
ABCは三角形のポリゴンを出力するものとし、vertex,fragmentShaderによって書き換えられるものとします。

シェーダー内でピクセル位置Xから辺Bcまでの距離Yを求めるにはどうすればいいでしょうか？

Answer 1

幾何計算について解説しているページや書籍を参照すると様々な計算式が載っていると思います。

二次元であれば例えばこんなページに図と数式の考え方が載っていたりしますので参考になると思います。
直線と線分

三次元であればこんなページもありました。

高校～大学初等の数学で解けるのですが、「学校を卒業しても役立つことがある数学」の一例と思います。プログラミングをしていると数学は頼りになるお友達ですね・・・