質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.35%
VBA

VBAはオブジェクト指向プログラミング言語のひとつで、マクロを作成によりExcelなどのOffice業務を自動化することができます。

Q&A

解決済

3回答

2289閲覧

VBA:2進数から10進数の変換で、11桁以上ができない

qraku1327

総合スコア1

VBA

VBAはオブジェクト指向プログラミング言語のひとつで、マクロを作成によりExcelなどのOffice業務を自動化することができます。

0グッド

0クリップ

投稿2021/05/11 10:34

編集2021/05/11 10:36

前提・実現したいこと

ここに質問の内容を詳しく書いてください。
2進数を10進数に変換する問題で、2進数の桁数を無制限にしたいです。
しかし、10桁までは処理されますが、11桁以降が処理されません。
オーバーフローとなってしまいます。

発生している問題・エラーメッセージ

エラーコード6:オーバーフロー

該当のソースコード

VBA

1Sub test() 2 3 Dim data() As String 4 Dim sum As Long 5 Dim k As Integer 6 Dim i As Integer 7 Dim j As Integer 8 Dim num As String 9 Dim m As Integer 10 11 12 '数を入力 13 num = InputBox("2進数を入力してください ") 14 15 '入力された数の長さを取得 16 m = Len(num) 17 18 '取得した長さの配列を定義 19 ReDim data(m) 20 21 '配列に入力された数を格納 22 k = m - 1 23 24 Do While k >= 0 25 26 data(k) = num Mod 10  'デバッグするとここになります 27 num = num \ 10 28 29 k = k - 1 30 31 Loop 32 33 i = 0 34 j = m - 1 35 36 '10進数に変換 37 Do While i < m 38 39 sum = sum + data(i) * (2 ^ j) 40 i = i + 1 41 j = j - 1 42 43 Loop 44 45 MsgBox "10進数は" & sum & "です。" 46 47 48End Sub

試したこと

型の変更など

補足情報(FW/ツールのバージョンなど)

ここにより詳細な情報を記載してください。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答3

0

Mod演算子は、両辺を整数として扱います(MSDN)。

VBAには整数が32ビットまでしかありませんので、Modで扱えるのは21億ちょっとまでです。

数値演算ではなく、文字列操作で1桁ずつ切り出すべき場面かと思います。

投稿2021/05/11 10:42

maisumakun

総合スコア146018

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

0

Long型で表現できるのは -2,147,483,648 ~ 2,147,483,647 です。
無制限というのはなかなか難しいですね。

投稿2021/05/11 10:42

itagagaki

総合スコア8402

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

0

自己解決

data(k) = num Mod 10  'デバッグするとここになります
num = num \ 10

data(k) = Right(num, 1)
num = num / 10
に変更することで、15桁くらいまでは処理できました。
しかし、それ以降はエラーはないものの、結果がずれてしまいました。
ここで諦めます。

投稿2021/05/11 11:07

qraku1327

総合スコア1

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.35%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問