python opencv 配列 の計算時のオーバーフロー

Question

import cv2
import numpy as np


img1 = cv2.imread('1.jpg')
img2 = cv2.imread('2.jpg')
def sub(a, b):
    c = a - b
    if c >= 0:
        return c
    if c < 0:
        return -1 * c

p1 = img1[200, 200][0]
p2 = img1[400, 400][0]
p3 = img1[600, 600][0]
p4 = img1[800, 800][0]
p5 = img1[900, 900][0]
list1 = [p1, p2, p3, p4, p5]
print list1

p1 = img2[200, 200][0]
p2 = img2[400, 400][0]
p3 = img2[600, 600][0]
p4 = img2[800, 800][0]
p5 = img2[900, 900][0]
list2 = [p1, p2, p3, p4, p5]
print list2

print map(sub,list1,list2)

を実行すると、
[127, 51, 105, 219, 223]
[126, 48, 116, 205, 222]
a.py:7: RuntimeWarning: overflow encountered in ubyte_scalars
c = a - b
とオーバーフローして答えが出ません。
print map(sub,[127, 51, 105, 219, 223],[126, 48, 116, 205, 222])の結果は[1, 3, 11, 14, 1]と出てきます。どういう仕組みでオーバーフローするのか、どうやったら解決できるのか教えてください。

Answer 1

確認はしてないですがp1,...,p5はRGBの値なのでnumpy.uint8型なのでしょう。

するとmap(sub, list1, list2)の過程でsub(105, 116)が計算されますが、subの中に入るとc = a - bが計算され、c = -11となりたいところですがuint8型、つまり負の値をとれないのでオーバーフローになります。

引き算する前にintに変換すれば解決します。

def sub(a, b):
    c = int(a) - int(b)
    if c >= 0:
        return c
    if c < 0:
        return -1 * c

参考
https://stackoverflow.com/questions/9384435/runtimewarning-overflow-encountered-in-ubyte-scalars

Comments

[退会済みユーザー]

なるほどint型に変換すれば負の値が取れるようになると言うことですね。勉強になりました。ありがとうございます。