質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
CUDA

CUDAは並列計算プラットフォームであり、Nvidia GPU(Graphics Processing Units)向けのプログラミングモデルです。CUDAは様々なプログラミング言語、ライブラリ、APIを通してNvidiaにインターフェイスを提供します。

PyTorch

PyTorchは、オープンソースのPython向けの機械学習ライブラリ。Facebookの人工知能研究グループが開発を主導しています。強力なGPUサポートを備えたテンソル計算、テープベースの自動微分による柔軟なニューラルネットワークの記述が可能です。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

Q&A

1回答

1832閲覧

pytorchの推論時の並列処理について

退会済みユーザー

退会済みユーザー

総合スコア0

CUDA

CUDAは並列計算プラットフォームであり、Nvidia GPU(Graphics Processing Units)向けのプログラミングモデルです。CUDAは様々なプログラミング言語、ライブラリ、APIを通してNvidiaにインターフェイスを提供します。

PyTorch

PyTorchは、オープンソースのPython向けの機械学習ライブラリ。Facebookの人工知能研究グループが開発を主導しています。強力なGPUサポートを備えたテンソル計算、テープベースの自動微分による柔軟なニューラルネットワークの記述が可能です。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

0グッド

0クリップ

投稿2019/12/18 08:09

前提・実現したいこと

pytorchで物体検出の並列処理をしたいと考えています。
インターネットで調べてみたのですが、学習時の並列処理は多くヒットするのですが、推論時の並列処理はほとんど見つけられなかったため質問させていただきました。

もともと一つの動画を物体検出していたのですが、事情があって二つの動画を同時に物体検出したいと考えています。
使用しているPCは使用可能なGPUが3個(0,1,2)あります。

発生している問題・エラーメッセージ

下記のコードを試したところしっかり処理はできるのですが並列処理ではなく、func1→func2のような形で処理を行なっているようです。

どなたか、何かわかることがありましたら、教えていただけると幸いです。
下記のコードとは関係なく推論時の並列処理について記述があるwebページなども教えていただけると幸いです。

試したこと

以下のコードを試しました。

py

1#main.py 2import torch 3from torch.multiprocessing import Process, set_start_method 4 5from multi_utils import func1, func2 6 7if __name__ == "__main__": 8 set_start_method('spawn') 9 10 v1 = 'ビデオ1のPATH' 11 v2 = 'ビデオ2のPATH' 12 13 process1 = Process(target=func1, args=(v1,)) 14 process2 = Process(target=func2, args=(v2,)) 15 16 process1.start() 17 process2.start()

py

1#multi_utils.py 2 3def get_model(gpu_num): 4 model = model(gpu_num) 5 return model 6 7def func1(v): 8 video = cv2.VideoCapture(v) 9 model = get_model(0)#物体検出のモデル, 10 while video.isOpened(): 11 ret, frame = video.read() 12 if not ret: 13 break 14 #処理 15 result = model(frame) 16 video.release() 17 18def fun2(v): 19 video = cv2.VideoCapture(v) 20 model = get_model(1)#物体検出のモデル 21 while video.isOpened(): 22 ret, frame = video.read() 23 if not ret: 24 break 25 #処理 26 result = model(frame) 27 video.release() 28

補足情報(FW/ツールのバージョンなど)

python==3.6.1 cuda==9.0 torch==1.3.1+cu92 torchvision==0.4.2+cu92

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

t_obara

2019/12/18 11:32

キャプチャデバイスは複数接続していて、認識されていて、同時に利用できることを確認されているのですか?その場合、VideoCaptureにデバイスIDを指定してあげる必要がありますがv1/v2はそれぞれ正しく指定しているのですか?
guest

回答1

0

ビデオ1を GPU 0 を使って推論するプロセスと、ビデオ2を GPU 1 を使って推論するプロセスに分けるのが簡単です。(python main.py を2つ実行する)
おそらく、ビデオ1、ビデオ2とも、並列に GPU 0 で推論できると思いますが。

投稿2019/12/20 12:01

Q71

総合スコア995

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

まだベストアンサーが選ばれていません

会員登録して回答してみよう

アカウントをお持ちの方は

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問