どの部分でWEBカメラの情報を取り入れているか知りたい

Question

前提・実現したいこと

こちらのソースコードを使用してマスクの有無を検知させました。
WEBカメラを２台使用して２か所で検知を行いたいのですが、そもそもどの部分でWEBカメラの情報を受け取っているかわかりません。

↓こちらからダウンロードしました。
リンク内容

該当のソースコード

# USAGE
# python detect_mask_video.py

# import the necessary packages
from tensorflow.keras.applications.mobilenet_v2 import preprocess_input
from tensorflow.keras.preprocessing.image import img_to_array
from tensorflow.keras.models import load_model
from imutils.video import VideoStream
import numpy as np
import argparse
import imutils
import time
import cv2
import os

def detect_and_predict_mask(frame, faceNet, maskNet):
	# grab the dimensions of the frame and then construct a blob
	# from it
	(h, w) = frame.shape[:2]
	blob = cv2.dnn.blobFromImage(frame, 1.0, (300, 300),
		(104.0, 177.0, 123.0))

	# pass the blob through the network and obtain the face detections
	faceNet.setInput(blob)
	detections = faceNet.forward()

	# initialize our list of faces, their corresponding locations,
	# and the list of predictions from our face mask network
	faces = []
	locs = []
	preds = []

	# loop over the detections
	for i in range(0, detections.shape[2]):
		# extract the confidence (i.e., probability) associated with
		# the detection
		confidence = detections[0, 0, i, 2]

		# filter out weak detections by ensuring the confidence is
		# greater than the minimum confidence
		if confidence > args["confidence"]:
			# compute the (x, y)-coordinates of the bounding box for
			# the object
			box = detections[0, 0, i, 3:7] * np.array([w, h, w, h])
			(startX, startY, endX, endY) = box.astype("int")

			# ensure the bounding boxes fall within the dimensions of
			# the frame
			(startX, startY) = (max(0, startX), max(0, startY))
			(endX, endY) = (min(w - 1, endX), min(h - 1, endY))

			# extract the face ROI, convert it from BGR to RGB channel
			# ordering, resize it to 224x224, and preprocess it
			face = frame[startY:endY, startX:endX]
			if face.any():
				face = cv2.cvtColor(face, cv2.COLOR_BGR2RGB)
				face = cv2.resize(face, (224, 224))
				face = img_to_array(face)
				face = preprocess_input(face)

	# only make a predictions if at least one face was detected
	if len(faces) > 0:
		# for faster inference we'll make batch predictions on *all*
		# faces at the same time rather than one-by-one predictions
		# in the above `for` loop
		faces = np.array(faces, dtype="float32")
		preds = maskNet.predict(faces, batch_size=32)

	# return a 2-tuple of the face locations and their corresponding
	# locations
	return (locs, preds)

# construct the argument parser and parse the arguments
ap = argparse.ArgumentParser()
ap.add_argument("-f", "--face", type=str,
	default="face_detector",
	help="path to face detector model directory")
ap.add_argument("-m", "--model", type=str,
	default="mask_detector.model",
	help="path to trained face mask detector model")
ap.add_argument("-c", "--confidence", type=float, default=0.5,
	help="minimum probability to filter weak detections")
args = vars(ap.parse_args())

# load our serialized face detector model from disk
print("[INFO] loading face detector model...")
prototxtPath = os.path.sep.join([args["face"], "deploy.prototxt"])
weightsPath = os.path.sep.join([args["face"],
	"res10_300x300_ssd_iter_140000.caffemodel"])
faceNet = cv2.dnn.readNet(prototxtPath, weightsPath)

# load the face mask detector model from disk
print("[INFO] loading face mask detector model...")
maskNet = load_model(args["model"])

# initialize the video stream and allow the camera sensor to warm up
print("[INFO] starting video stream...")
vs = VideoStream(src=0).start()
time.sleep(2.0)

# loop over the frames from the video stream
while True:
	# grab the frame from the threaded video stream and resize it
	# to have a maximum width of 400 pixels
	frame = vs.read()
	frame = imutils.resize(frame, width=400)

	# detect faces in the frame and determine if they are wearing a
	# face mask or not
	(locs, preds) = detect_and_predict_mask(frame, faceNet, maskNet)

	# loop over the detected face locations and their corresponding
	# locations
	for (box, pred) in zip(locs, preds):
		# unpack the bounding box and predictions
		(startX, startY, endX, endY) = box
		(mask, withoutMask) = pred

		# determine the class label and color we'll use to draw
		# the bounding box and text
		label = "Mask" if mask > withoutMask else "No Mask"
		color = (0, 255, 0) if label == "Mask" else (0, 0, 255)
			
		# include the probability in the label
		label = "{}: {:.2f}%".format(label, max(mask, withoutMask) * 100)

		# display the label and bounding box rectangle on the output
		# frame
		cv2.putText(frame, label, (startX, startY - 10),
			cv2.FONT_HERSHEY_SIMPLEX, 0.45, color, 2)
		cv2.rectangle(frame, (startX, startY), (endX, endY), color, 2)

	# show the output frame
	cv2.imshow("Frame", frame)
	key = cv2.waitKey(1) & 0xFF

	# if the `q` key was pressed, break from the loop
	if key == ord("q"):
		break

# do a bit of cleanup
cv2.destroyAllWindows()
vs.stop()

Comments

[jbpb0]

pythonのコードの一番最初の行のすぐ上に
```python
だけの行を追加してください
また、pythonのコードの一番最後の行のすぐ下に
```
だけの行を追加してください

または、
https://teratail.storage.googleapis.com/uploads/contributed_images/56957fe805d9d7befa7dba6a98676d2b.gif
を見て、そのようにしてみてください

現状、コードがとても読み辛いです
質問にコードを載せる際に上記をやってくれたら、他人がコードを読みやすくなり、コードの実行による現象確認もやりやすくなるので、回答されやすくなります

[1T2R3M4]

nampleさんが書いたコードではないのでしょうか。

[nample]

GitHubからダウンロードしました

[jbpb0]

そういう場合は、コードを引用したURLも質問に書くといいですよ

Answer 1

調べてないのであてずっぽうで投げやりな回答です。

調べた結果、動かしてませんが読みは正しいと確信しました。
理由： VideoStream(src=0)のsrcの引数が、最終的にcv2.VideoCaptuer(src)という形式で使われており、事実上VideoStream(src=0)はcv2.VideoCaptuer(src)のラッパーに過ぎないため。

（分かる人がいて、この回答が違っていればきっとマイナス評価をした上でちゃんと回答がもらえるかもしれません）

---

■カメラ自体を認識させる方法について

VideoStreamは使ったことがないですが、cv2.VideoCaptuer()と互換の機能と思います。
で、これ系の関数で大事なのは「何番目のカメラを」という情報になります。

■OpenCVでカメラ2台を認識させる方法について
cv2.VideoCaptuer()であれば、
cv2.VideoCaptuer(0)で0番目にOSが認識したカメラ
cv2.VideoCaptuer(1)で1番目にOSが認識したカメラ
です。

■VideoStreamでカメラ2台を認識させる方法について

以下に掲載のコードの上の方の部分を抜粋します。

# initialize the video stream and allow the camera sensor to warm up
print("[INFO] starting video stream...")
vs = VideoStream(src=0).start()
time.sleep(2.0)

# loop over the frames from the video stream
while True:
    # grab the frame from the threaded video stream and resize it
    # to have a maximum width of 400 pixels
    frame = vs.read()

コードのコメントにもある通り、
vs = VideoStream(src=0).start()
でカメラを認識してカメラを使える状態にしているようです。

であれば、
vs0 = VideoStream(src=0).start()
vs1 = VideoStream(src=1).start()
のようにしてやれば、カメラ2台を認識できるようになるはずです。

■実際どうよ？
ですので、

# initialize the video stream and allow the camera sensor to warm up
print("[INFO] starting video stream...")
vs0 = VideoStream(src=0).start() # <--- ここを修正
vs0 = VideoStream(src=1).start() # <--- ここを修正
time.sleep(2.0)

# loop over the frames from the video stream
while True:
    # grab the frame from the threaded video stream and resize it
    # to have a maximum width of 400 pixels
    frame0 = vs0.read() # <--- ここを修正
    frame1 = vs1.read() # <--- ここを修正

    frame0 = imutils.resize(frame0, width=400) # <--- ここを修正
    frame1 = imutils.resize(frame1, width=400) # <--- ここを修正

    frames = [frame0 ,frame1] # <--- ここを修正　それぞれのフレームをリストに格納

    for frame in frames:# <--- ここを修正 フレーム1つずつをくりぬいて今までの処理をそのままぶっこむ
        # detect faces in the frame and determine if they are wearing a
        # face mask or not
        # 以下略

でいけるはずです。
コケたら連絡ください。なるべく対応します。

Comments

[nample]

回答ありがとうございます。
環境を言うの忘れていました。ラズパイ４で行っています
早速試してみたのですが、

VIDEOIO ERROR: V4L2: Could not obtain specifics of capture window.
VIDEOIO ERROR: V4L: can't open camera by index 1
/dev/video1 does not support memory mapping
Traceback (most recent call last):
File "detect_mask_video.py", line 124, in <module>
frame1 = imutils.resize(frame1, width=400) # <--- ここを修正
File "/home/pi/.virtualenvs/cv/lib/python3.7/site-packages/imutils/convenience.py", line 69, in resize
(h, w) = image.shape[:2]
AttributeError: 'NoneType' object has no attribute 'shape'

このようなエラー文？がかえってきました。

[nample]

カメラのIDを変えてみました
vs0 = VideoStream(src=1).start() # <--- ここを修正
この文を
vs0 = VideoStream(src=2).start() # <--- ここを修正
にしました

VIDIOC_QBUF: Invalid argument
Traceback (most recent call last):
File "detect_mask_video.py", line 118, in <module>
frame1 = imutils.resize(frame1, width=400) # <--- ここを修正
File "/home/pi/.virtualenvs/cv/lib/python3.7/site-packages/imutils/convenience.py", line 69, in resize
(h, w) = image.shape[:2]
AttributeError: 'NoneType' object has no attribute 'shape'

少し違うエラー文になりました

[jbpb0]

vs0 = VideoStream(src=1).start() # <--- ここを修正
↓ vs0→vs1
vs1 = VideoStream(src=1).start() # <--- ここを修正

[退会済みユーザー]

jbpb0さん
ありがとうございます、完全にポカでした。

[nample]

返信遅れました
私もそこには気が付き修正しましたが、上記のエラー文が出ました…
元のWEBカメラ1台の場合、IDを変えればカメラが切り替わっている事は確認出来ています。
エラーの原因は、別のファイルで定義されているものと今回追加したコードが干渉？しているということが原因とか考えられますか？

[jbpb0]

> 私もそこには気が付き修正しましたが

とありますが、

> vs0 = VideoStream(src=2).start() # <--- ここを修正
にしました

は違いますけど、そこは大丈夫でしょうか？

[nample]

すみません、コメントからコピペしてコメントしたので訂正しきれず間違いのままでした
実行はvs1、src=2と正して行った結果になります
今確認のために再び実行してみた結果、１つのwindow(frame)にWEBカメラの映像が交互に表示されましたが数秒して
select timeout
VIDEOC_DQBUF: リソースが一時的に利用できません
という文と前コメント同様のエラー文が表示されました

[jbpb0]

> 実行はvs1、src=2と正して行った

src=2 ではありません

src=1 → vs1 → frame1

1繋がりです

[nample]

cv2.imshow("Frame", frame1)
を追加して2つのwindowで表示することができました！
ラズパイ4のスペックが原因かと思うのでラズパイの方は映像のフレーム数を落として試してみるのとPCの方でも同じ環境を用意して試してみたいと思います

考えられる原因に心当たりなどあればご教授願いたいです

[nample]

src=1ではcan't open camera by index 1とエラーが出るのでカメラのID？が違うのかなと思いsrc=2にしました

[nample]

度々すみません
vs0の方はsrc=0
vs1の方はsrc=2にしています
この理由は前コメントの通りです

[jbpb0]

> can't open camera by index 1
/dev/video1 does not support memory mapping

「1」は使えないって言われてましたね
失礼しました

v4l2-ctl --list-devices

を実行したら、つながってるカメラの番号が分かるようです

おそらく、一つ目のカメラが「0」と「1」、二つ目のカメラが「2」と「3」になっていて、どちらも小さい方の数字を使わないとダメなのでしょう

参考
https://leico.github.io/TechnicalNote/Linux/webcam-usage
https://qiita.com/naoppy/items/74bdfa8216c7223f584b