HLSLでの「<」単体の演算について

Question

UnityのHLSLを読んでいると

 float sw = uv.x < _Config.x;

という式がありました。uv.xと_Config.xがfloatの値だとするならば、上記の式の「<」はどのような演算でswにはどのような結果がはいるのでしょうか？

Answer 1

おそらく「uv.x < _Config.xの結果はbool型となり、それをfloatに変換することでswは1.0か0.0のいずれかになる」...つまり、uv.xが_Config.x未満ならswは1.0、そうでなければ0.0ということでいいんじゃないかと思います。

リファレンスに載っているに違いない...と思ったのですが、Comparison Operatorsの節を見てみても「比較演算の結果の型は○○である」と明言している文章はなさそうに見えました。ですが...

To use comparison operators with vector and matrix types, use the all or any intrinsic function.

This operation fails because the if statement requires a single bool but receives a bool4:

if (A4 < B4)

These operations succeed:

if ( any(A4 < B4) )
if ( all(A4 < B4) )

ベクトル型や行列型に対して比較演算子を使いたい場合、組み込み関数のallやanyを使用してください。

この演算は、if文に対しては単一のboolが必要であるのに反して、bool4が与えられているため失敗します:

if (A4 < B4)

これらの演算なら成功します:

if ( any(A4 < B4) )
if ( all(A4 < B4) )

といった文章がありました。
A4やB4はたぶん4成分の値なんでしょう。4成分同士の比較演算の結果がbool4になると解釈できますので、類推すると1成分同士の比較演算を行なった場合にはboolが得られると考えるのが自然じゃないかと思います。
また他にも、節の最初の方ではスカラー同士の比較演算の例が挙げられていますが、先ほど引用しました「if文に対しては単一のboolが必要」という文章と矛盾しないためには、スカラー同士の比較演算結果はbool型であるべきだと思います。

そしてCasting and Conversion - Win32 apps | Microsoft Docsの記事では、bool型をint型やfloat型に移そうとするとfalseは0に、trueは1に変換されるとの記述がありました。DXSASの記事ではありますが、たぶんHLSLでもこのルールに従うだろうと思います。

念のための確認として、Unity上で下記のマテリアルを作成して...

Shader "Unlit/ComparisonOperationToFloat"
{
    Properties
    {
    }
    SubShader
    {
        Tags { "RenderType"="Opaque" }

        Pass
        {
            CGPROGRAM
            #pragma vertex vert
            #pragma fragment frag
            #include "UnityCG.cginc"

            struct appdata
            {
                float4 vertex : POSITION;
                float2 uv : TEXCOORD0;
            };

            struct v2f
            {
                float2 uv : TEXCOORD0;
                float4 vertex : SV_POSITION;
            };

            v2f vert (appdata v)
            {
                v2f o;
                o.vertex = UnityObjectToClipPos(v.vertex);
                o.uv = v.uv;
                return o;
            }

            fixed4 frag(v2f i) : SV_Target
            {
                float result = 0.5 < i.uv.x;
                return fixed4(result, 0.0, 0.0, 1.0);
            }
            ENDCG
        }
    }
}

Quadに割り当てたところ、UV座標が0.5以下になる左半分は黒く、0.5よりも大きい右半分は赤くなりました。

コンパイル結果のフラグメントシェーダー部分を抜粋すると...

-- Hardware tier variant: Tier 1
-- Fragment shader for "d3d11":
// Stats: 2 math, 1 temp registers
Shader Disassembly:
//
// Generated by Microsoft (R) D3D Shader Disassembler
//
//
// Input signature:
//
// Name                 Index   Mask Register SysValue  Format   Used
// -------------------- ----- ------ -------- -------- ------- ------
// TEXCOORD                 0   xy          0     NONE   float   x   
// SV_POSITION              0   xyzw        1      POS   float       
//
//
// Output signature:
//
// Name                 Index   Mask Register SysValue  Format   Used
// -------------------- ----- ------ -------- -------- ------- ------
// SV_Target                0   xyzw        0   TARGET   float   xyzw
//
      ps_4_0
      dcl_input_ps linear v0.x
      dcl_output o0.xyzw
      dcl_temps 1
   0: lt r0.x, l(0.500000), v0.x
   1: and o0.x, r0.x, l(0x3f800000)
   2: mov o0.yzw, l(0,0,0,1.000000)
   3: ret 
// Approximately 0 instruction slots used

となっており、ltによる大小比較（真なら0xFFFFFFFF、偽なら0x0000000）の結果に対してandによる0x3f800000とのビット積をとることで、比較結果が真なら0x3f800000（浮動小数点数に直すと1.0）、偽なら0x0000000（浮動小数点数に直すと0.0）の値を得ているようです。

Comments

[santaro]

ありがとうございます！！
初心者なので解読には時間がかかりそうですが、「sw」の演算の仕方はなんとなくわかりました！