VB.NETにおけるLong型の変数に対する演算について

発生している問題

VB.NETでLong型の変数に対して演算を実行し、結果を出力したが、期待通りの結果が出力されない。

前提

コードは以下の通りです。

Imports System

Module Program
    Sub Main(args As String())
        Dim lResult As Long = 1
        Dim iNum As Integer
        Dim j As Integer = 1

        iNum = Integer.Parse(Console.ReadLine()) - 1
        For i As Integer = iNum To iNum - 11 + 1 Step -1
            lResult *= i
            lResult /= j
            Console.WriteLine("i=" & i.ToString())
            Console.WriteLine("j=" & j.ToString())
            Console.WriteLine(lResult.ToString())
            j += 1
        Next

        Console.WriteLine(lResult.ToString())
    End Sub
End Module

期待結果

本来は、上記コードの実行結果が「366461620334848584」と出力されることを想定しておりました。
（手元の電卓で上記の演算を実行したところ、最終結果が「366461620334848584」となることを確認済）

実行結果

i=199
j=1
199
i=198
j=2
19701
i=197
j=3
1293699
i=196
j=4
63391251
i=195
j=5
2472258789
i=194
j=6
79936367511
i=193
j=7
2203959847089
i=192
j=8
52895036330136
i=191
j=9
1122550215450664
i=190
j=10
21328454093562616
i=189
j=11
366461620334848576
366461620334848576

試したこと

手元の電卓で上記コードの演算結果を確認したところ、上記コードのループ処理においてi=199からi=190まではコードの実行結果と電卓の計算結果が一致していることを確認しました。しかし、i=189の処理において、コードの実行結果（366461620334848576）と電卓の計算結果（366461620334848584）が一致しませんでした。

補足情報（FW/ツールのバージョンなど）

OS: Windows10
Microsoft .NET Framework
Version 4.8.04084
Visual Basic ツール 3.9.0-6.21160.10+59eedc33d35754759994155ea2f4e1012a9951e3

KOZ6.0

2021/04/21 06:56

「銀行家の丸め」についてご存じですか？

mzn59

2021/04/21 07:45

上記コードにおけるループ処理では、以下を求めることを意図しておりました。・iNum 個から、異なる 11 を選ぶ場合の数　iNumC11=(iNum)(iNum-1)(iNum-2)...(iNum-11)/11! 上記演算において、分子は 64 bit 整数型に収まらない可能性があるため、コード中のループにて順次除算を実行しております。 (iNum)/1!、(iNum)(iNum-1)/2!、(iNum)(iNum-1)(iNum-2)/3!、...、(iNum)(iNum-1)(iNum-2)...(iNum-11)/11!の順に演算しております。ここにある数はそれぞれiNumC1、iNum-1C2、iNum-2C3、...、iNumC11であるため、すべて整数となる認識です。上記コードにおいて端数処理を行う必要がありますでしょうか？

KOZ6.0

2021/04/21 08:01

割り算に / を使ってらっしゃるので端数が出るのかなと思いました。

mzn59

2021/04/21 08:17

ご指摘の通り、端数処理の考慮が漏れておりました。ご指摘いただき、ありがとうございました。

行動規範の内容に同意します

回答1件

ベストアンサー

VB.NETの整数除算は \ です。
/ で除算した場合はオペランドのデータ型によって結果のデータ型が違いますが、今回の場合はDoubleになります。（/ 演算子の説明を参照してください。） Double型の有効桁数は15桁なので、それをLongを戻した際に誤差が発生します。

Visual Basic における算術演算子

提示されたサンプルコードの /= している箇所を = にして実行すると、結果は下記のようになります。

i=199
j=1
199
i=198
j=2
19701
i=197
j=3
1293699
i=196
j=4
63391251
i=195
j=5
2472258789
i=194
j=6
79936367511
i=193
j=7
2203959847089
i=192
j=8
52895036330136
i=191
j=9
1122550215450664
i=190
j=10
21328454093562616
i=189
j=11
366461620334848584
366461620334848584

投稿2021/04/21 07:03

編集2021/04/21 07:27