マウス座標をワールド座標に変換

Question

C++でクライアント座標をワールド座標に変換してマウスカーソルのワールド座標を取得しようとしています。
(X,Y座標のみとれれば問題ないのですが)
DirectXMathを使用して
http://www.marupeke296.com/DXG_No48_PointGroundInScreen.html
↑のサイトを参考に作成してみましたがなかなかうまくいきません。
どのように間違っているのかが分からず途方に暮れてしまっています。
どこが間違っているのかアドバイスをお願いしたいです。

実行して数値を見てみると
x,y,zともに [-nan(ind)]と出ます。

// 関数呼び出し
POINT *mousePos = CInput::GetMousePosition();
XMFLOAT2 mouse = XMFLOAT2(mousePos->x, mousePos->y);
XMFLOAT3 worldPos;
XMMATRIX view, proj;
view = XMLoadFloat4x4(&CSceneManager::GetScene()->GetCamera()->GetViewMatrix());
proj = XMLoadFloat4x4(&CSceneManager::GetScene()->GetCamera()->GetProjMatrix());
CalcScreenToXY(
&worldPos,// ワールド座標
mouse.x,// クライアント座標X
mouse.y,// クライアント座標Y
SCREEN_WIDTH,// スクリーンサイズW
SCREEN_HEIGHT,// スクリーンサイズH
&view,// ビュー行列
&proj// プロジェクション行列
);

XMFLOAT3* CalcScreenToWorld(
XMFLOAT3* pout,
int Sx,
int Sy,
float fZ,
int ScreenW,
int ScreenH,
XMMATRIX* view,
XMMATRIX* prj
)
{
XMMATRIX InvView, InvPrj, VP, InvViewport;
InvView = XMMatrixInverse(nullptr, *view);
InvPrj = XMMatrixInverse(nullptr, *prj);
VP = XMMatrixIdentity();
XMFLOAT4X4 mtx;
XMStoreFloat4x4(&mtx, VP);
mtx._11 = ScreenW / 2.0f;
mtx._22 = -ScreenH / 2.0f;
mtx._41 = ScreenW / 2.0f;
mtx._42 = ScreenH / 2.0f;
VP = XMLoadFloat4x4(&mtx);
InvViewport = XMMatrixInverse(nullptr, VP);
// 逆行列
XMMATRIX tmp = InvViewport * InvPrj * InvView;
XMVECTOR mat = XMLoadFloat3(pout);
XMVECTOR vec = XMVector3TransformCoord(mat, tmp);
XMStoreFloat3(pout, vec);
return pout;
}

XMFLOAT3* CalcScreenToXY(
XMFLOAT3* pout,
int Sx,
int Sy,
int ScreenW,
int ScreenH,
XMMATRIX* pView,
XMMATRIX* pPrj
)
{
XMFLOAT3 nearpos = XMFLOAT3(0.0f, 0.0f, 0.0f);
XMFLOAT3 farpos = XMFLOAT3(0.0f, 0.0f, 0.0f);
XMFLOAT3 ray = XMFLOAT3(0.0f, 0.0f, 0.0f);
CalcScreenToWorld(&nearpos, Sx, Sy, 0.0f, ScreenW, ScreenH, pView, pPrj);
CalcScreenToWorld(&farpos, Sx, Sy, 1.0f, ScreenW, ScreenH, pView, pPrj);
ray = XMFLOAT3(farpos.x - nearpos.x, farpos.y - nearpos.y, farpos.z - nearpos.z);
XMStoreFloat3(&ray, XMVector3Normalize(XMLoadFloat3(&ray)));

if (ray.y <= 0)
{
// 平面交点
XMFLOAT3 v = XMFLOAT3(0.0f, 1.0f, 0.0f);
XMVECTOR Lray = XMVector3Dot(XMLoadFloat3(&ray), XMLoadFloat3(&v));
XMFLOAT3 v2 = XMFLOAT3(0.0f, 1.0f, 0.0f);
nearpos.x *= -1.0f;
nearpos.y *= -1.0f;
nearpos.z *= -1.0f;
XMVECTOR LP0 = XMVector3Dot(XMLoadFloat3(&nearpos), XMLoadFloat3(&v2));
//*pout = nearpos + (LP0 / Lray)*ray;
XMFLOAT3 lp0;
XMStoreFloat3(&lp0, LP0);
XMFLOAT3 lray;
XMStoreFloat3(&lray, LP0);

*pout = XMFLOAT3
(nearpos.x + (lp0.x / lray.x)*ray.x,nearpos.y + (lp0.y / lray.y)*ray.y,nearpos.z + (lp0.z / lray.z)*ray.z);
}
else *pout = farpos;
return pout;
}

Answer 1

CalcScreenToWorld(&nearpos, Sx, Sy, 0.0f, ScreenW, ScreenH, pView, pPrj);
CalcScreenToWorld(&farpos, Sx, Sy, 1.0f, ScreenW, ScreenH, pView, pPrj);
ray = XMFLOAT3(farpos.x - nearpos.x, farpos.y - nearpos.y, farpos.z - nearpos.z);

ここ，
１行目と２行目の違いは，「第四引数値が 0.0f か 1.0f か」しかないように見える．

で，CalcScrrenToWorld は第四引数 fZ を一切使ってないように見える．

なので，nearpos と farpos は全く同じ値となり，結果として ray の要素は全て0となるだろう．

以降の処理は詳細見てないけど，この状態は

if (ray.y <= 0)

の条件を満たすから，ここでやってる処理でまずいこと（例えば0割りとかそんな）がおきるのではなかろうか．

Comments

[nonnon7]

アドバイスありがとうございます。
指摘していただいたところを以下のように修正したところ数値が表示されるようになりましたが数値がいきなり大きく変わったりと安定しません。
XMFLOAT3 pV = XMFLOAT3(Sx, Sy, fZ);
XMVECTOR v = XMLoadFloat3(&pV);
XMVECTOR vec = XMVector3TransformCoord(v, tmp);
XMStoreFloat3(pout, vec);

たびたび申し訳ないですが、ワールド座標でZ0.0の平面上のX,Yの値を取得することは可能でしょうか?

[fana]

素人でも示されたコードを見て「これはいかんのでは」とわかる事柄を述べただけで
私自身はDirectXの経験があるわけじゃないので…（軸の方向とかすらもわからんです）

---

ただ，可能であれば検算してみればどこで値が異常になるのか（：実装のどこがまちがっているのか）を突き止められるのではないのか？　と思います．

すなわち，
ワールド座標でのある位置Wが最終的にクライアント座標のある位置pに投影される　ということが既知であるとき，
その投影経路の各時点での値もまた既知とできるでしょう．
（：各種マトリクスを乗じて変換していったときにどんな値になっていくのかを求めることは可能であろう，と）

で，それらの値と，今回の処理を p から出発させた場合の各時点での値とを照らし合わせれば，「どの時点までは計算結果があっていてどの時点で合わなくなるのか？」を突き止めることができるのではないのでしょうか？

[fana]

（要は，処理の各時点での正当な値がわかっている入力値を用いてデバッグしましょうよ，っていう）

[nonnon7]

順を追ってひとつずつ、もっとしっかり見ていきたいと思います。
対応していただきありがとうございました。