質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.46%
VB.NET

Microsoft Visual Basic .NETのことで、Microsoft Visual Basic(VB6)の後継。 .NET環境向けのプログラムを開発することができます。 現在のVB.NETでは、.NET Frameworkを利用して開発を行うことが可能です。

Q&A

解決済

1回答

1451閲覧

VB.NETにおけるLong型の変数に対する演算について

mzn59

総合スコア17

VB.NET

Microsoft Visual Basic .NETのことで、Microsoft Visual Basic(VB6)の後継。 .NET環境向けのプログラムを開発することができます。 現在のVB.NETでは、.NET Frameworkを利用して開発を行うことが可能です。

0グッド

0クリップ

投稿2021/04/21 06:28

発生している問題

VB.NETでLong型の変数に対して演算を実行し、結果を出力したが、期待通りの結果が出力されない。

前提

コードは以下の通りです。

Imports System Module Program Sub Main(args As String()) Dim lResult As Long = 1 Dim iNum As Integer Dim j As Integer = 1 iNum = Integer.Parse(Console.ReadLine()) - 1 For i As Integer = iNum To iNum - 11 + 1 Step -1 lResult *= i lResult /= j Console.WriteLine("i=" & i.ToString()) Console.WriteLine("j=" & j.ToString()) Console.WriteLine(lResult.ToString()) j += 1 Next Console.WriteLine(lResult.ToString()) End Sub End Module

期待結果

本来は、上記コードの実行結果が「366461620334848584」と出力されることを想定しておりました。
(手元の電卓で上記の演算を実行したところ、最終結果が「366461620334848584」となることを確認済)

実行結果

i=199 j=1 199 i=198 j=2 19701 i=197 j=3 1293699 i=196 j=4 63391251 i=195 j=5 2472258789 i=194 j=6 79936367511 i=193 j=7 2203959847089 i=192 j=8 52895036330136 i=191 j=9 1122550215450664 i=190 j=10 21328454093562616 i=189 j=11 366461620334848576 366461620334848576

試したこと

手元の電卓で上記コードの演算結果を確認したところ、上記コードのループ処理においてi=199からi=190まではコードの実行結果と電卓の計算結果が一致していることを確認しました。しかし、i=189の処理において、コードの実行結果(366461620334848576)と電卓の計算結果(366461620334848584)が一致しませんでした。

補足情報(FW/ツールのバージョンなど)

OS: Windows10
Microsoft .NET Framework
Version 4.8.04084
Visual Basic ツール 3.9.0-6.21160.10+59eedc33d35754759994155ea2f4e1012a9951e3

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

KOZ6.0

2021/04/21 06:56

「銀行家の丸め」についてご存じですか?
mzn59

2021/04/21 07:45

上記コードにおけるループ処理では、以下を求めることを意図しておりました。 ・iNum 個から、異なる 11 を選ぶ場合の数  iNumC11=(iNum)(iNum-1)(iNum-2)...(iNum-11)/11! 上記演算において、分子は 64 bit 整数型に収まらない可能性があるため、コード中のループにて順次除算を実行しております。 (iNum)/1!、(iNum)(iNum-1)/2!、(iNum)(iNum-1)(iNum-2)/3!、...、(iNum)(iNum-1)(iNum-2)...(iNum-11)/11!の順に演算しております。 ここにある数はそれぞれiNumC1、iNum-1C2、iNum-2C3、...、iNumC11であるため、すべて整数となる認識です。上記コードにおいて端数処理を行う必要がありますでしょうか?
KOZ6.0

2021/04/21 08:01

割り算に / を使ってらっしゃるので端数が出るのかなと思いました。
mzn59

2021/04/21 08:17

ご指摘の通り、端数処理の考慮が漏れておりました。ご指摘いただき、ありがとうございました。
guest

回答1

0

ベストアンサー

VB.NETの整数除算は \ です。
/ で除算した場合はオペランドのデータ型によって結果のデータ型が違いますが、今回の場合はDoubleになります。(/ 演算子の説明を参照してください。) Double型の有効桁数は15桁なので、それをLongを戻した際に誤差が発生します。

Visual Basic における算術演算子

提示されたサンプルコードの /= している箇所を = にして実行すると、結果は下記のようになります。

i=199 j=1 199 i=198 j=2 19701 i=197 j=3 1293699 i=196 j=4 63391251 i=195 j=5 2472258789 i=194 j=6 79936367511 i=193 j=7 2203959847089 i=192 j=8 52895036330136 i=191 j=9 1122550215450664 i=190 j=10 21328454093562616 i=189 j=11 366461620334848584 366461620334848584

投稿2021/04/21 07:03

編集2021/04/21 07:27
退会済みユーザー

退会済みユーザー

総合スコア0

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

mzn59

2021/04/21 08:18

解決しました。ご教示いただき、ありがとうございました。
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.46%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問