質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

ただいまの
回答率

88.92%

HLSLでの「<」単体の演算について

解決済

回答 1

投稿

  • 評価
  • クリップ 0
  • VIEW 233

santaro

score 18

UnityのHLSLを読んでいると

 float sw = uv.x < _Config.x;

という式がありました。uv.x_Config.xがfloatの値だとするならば、上記の式の「<」はどのような演算でswにはどのような結果がはいるのでしょうか?

  • 気になる質問をクリップする

    クリップした質問は、後からいつでもマイページで確認できます。

    またクリップした質問に回答があった際、通知やメールを受け取ることができます。

    クリップを取り消します

  • 良い質問の評価を上げる

    以下のような質問は評価を上げましょう

    • 質問内容が明確
    • 自分も答えを知りたい
    • 質問者以外のユーザにも役立つ

    評価が高い質問は、TOPページの「注目」タブのフィードに表示されやすくなります。

    質問の評価を上げたことを取り消します

  • 評価を下げられる数の上限に達しました

    評価を下げることができません

    • 1日5回まで評価を下げられます
    • 1日に1ユーザに対して2回まで評価を下げられます

    質問の評価を下げる

    teratailでは下記のような質問を「具体的に困っていることがない質問」、「サイトポリシーに違反する質問」と定義し、推奨していません。

    • プログラミングに関係のない質問
    • やってほしいことだけを記載した丸投げの質問
    • 問題・課題が含まれていない質問
    • 意図的に内容が抹消された質問
    • 過去に投稿した質問と同じ内容の質問
    • 広告と受け取られるような投稿

    評価が下がると、TOPページの「アクティブ」「注目」タブのフィードに表示されにくくなります。

    質問の評価を下げたことを取り消します

    この機能は開放されていません

    評価を下げる条件を満たしてません

    評価を下げる理由を選択してください

    詳細な説明はこちら

    上記に当てはまらず、質問内容が明確になっていない質問には「情報の追加・修正依頼」機能からコメントをしてください。

    質問の評価を下げる機能の利用条件

    この機能を利用するためには、以下の事項を行う必要があります。

回答 1

checkベストアンサー

+1

おそらく「uv.x < _Config.xの結果はbool型となり、それをfloatに変換することでsw1.00.0のいずれかになる」...つまり、uv.x_Config.x未満ならsw1.0、そうでなければ0.0ということでいいんじゃないかと思います。

リファレンスに載っているに違いない...と思ったのですが、Comparison Operatorsの節を見てみても「比較演算の結果の型は○○である」と明言している文章はなさそうに見えました。ですが...

To use comparison operators with vector and matrix types, use the all or any intrinsic function.

This operation fails because the if statement requires a single bool but receives a bool4:

if (A4 < B4)

These operations succeed:

if ( any(A4 < B4) )
if ( all(A4 < B4) )

ベクトル型や行列型に対して比較演算子を使いたい場合、組み込み関数のallanyを使用してください。

この演算は、if文に対しては単一のboolが必要であるのに反して、bool4が与えられているため失敗します:

if (A4 < B4)

これらの演算なら成功します:

if ( any(A4 < B4) )
if ( all(A4 < B4) )

といった文章がありました。
A4B4はたぶん4成分の値なんでしょう。4成分同士の比較演算の結果がbool4になると解釈できますので、類推すると1成分同士の比較演算を行なった場合にはboolが得られると考えるのが自然じゃないかと思います。
また他にも、節の最初の方ではスカラー同士の比較演算の例が挙げられていますが、先ほど引用しました「if文に対しては単一のboolが必要」という文章と矛盾しないためには、スカラー同士の比較演算結果はbool型であるべきだと思います。

そしてCasting and Conversion - Win32 apps | Microsoft Docsの記事では、bool型をint型やfloat型に移そうとするとfalseは0に、trueは1に変換されるとの記述がありました。DXSASの記事ではありますが、たぶんHLSLでもこのルールに従うだろうと思います。

念のための確認として、Unity上で下記のマテリアルを作成して...

Shader "Unlit/ComparisonOperationToFloat"
{
    Properties
    {
    }
    SubShader
    {
        Tags { "RenderType"="Opaque" }

        Pass
        {
            CGPROGRAM
            #pragma vertex vert
            #pragma fragment frag
            #include "UnityCG.cginc"

            struct appdata
            {
                float4 vertex : POSITION;
                float2 uv : TEXCOORD0;
            };

            struct v2f
            {
                float2 uv : TEXCOORD0;
                float4 vertex : SV_POSITION;
            };

            v2f vert (appdata v)
            {
                v2f o;
                o.vertex = UnityObjectToClipPos(v.vertex);
                o.uv = v.uv;
                return o;
            }

            fixed4 frag(v2f i) : SV_Target
            {
                float result = 0.5 < i.uv.x;
                return fixed4(result, 0.0, 0.0, 1.0);
            }
            ENDCG
        }
    }
}

Quadに割り当てたところ、UV座標が0.5以下になる左半分は黒く、0.5よりも大きい右半分は赤くなりました。

図

コンパイル結果のフラグメントシェーダー部分を抜粋すると...

-- Hardware tier variant: Tier 1
-- Fragment shader for "d3d11":
// Stats: 2 math, 1 temp registers
Shader Disassembly:
//
// Generated by Microsoft (R) D3D Shader Disassembler
//
//
// Input signature:
//
// Name                 Index   Mask Register SysValue  Format   Used
// -------------------- ----- ------ -------- -------- ------- ------
// TEXCOORD                 0   xy          0     NONE   float   x   
// SV_POSITION              0   xyzw        1      POS   float       
//
//
// Output signature:
//
// Name                 Index   Mask Register SysValue  Format   Used
// -------------------- ----- ------ -------- -------- ------- ------
// SV_Target                0   xyzw        0   TARGET   float   xyzw
//
      ps_4_0
      dcl_input_ps linear v0.x
      dcl_output o0.xyzw
      dcl_temps 1
   0: lt r0.x, l(0.500000), v0.x
   1: and o0.x, r0.x, l(0x3f800000)
   2: mov o0.yzw, l(0,0,0,1.000000)
   3: ret 
// Approximately 0 instruction slots used

となっており、ltによる大小比較(真なら0xFFFFFFFF、偽なら0x0000000)の結果に対してandによる0x3f800000とのビット積をとることで、比較結果が真なら0x3f800000(浮動小数点数に直すと1.0)、偽なら0x0000000(浮動小数点数に直すと0.0)の値を得ているようです。

投稿

  • 回答の評価を上げる

    以下のような回答は評価を上げましょう

    • 正しい回答
    • わかりやすい回答
    • ためになる回答

    評価が高い回答ほどページの上位に表示されます。

  • 回答の評価を下げる

    下記のような回答は推奨されていません。

    • 間違っている回答
    • 質問の回答になっていない投稿
    • スパムや攻撃的な表現を用いた投稿

    評価を下げる際はその理由を明確に伝え、適切な回答に修正してもらいましょう。

  • 2020/07/05 13:39

    ありがとうございます!!
    初心者なので解読には時間がかかりそうですが、「sw」の演算の仕方はなんとなくわかりました!

    キャンセル

15分調べてもわからないことは、teratailで質問しよう!

  • ただいまの回答率 88.92%
  • 質問をまとめることで、思考を整理して素早く解決
  • テンプレート機能で、簡単に質問をまとめられる

関連した質問

同じタグがついた質問を見る