Jetson nanoによるリアルタイムの映像認識の高速化について

nvidia製のワンボードコンピュータのJetsonを使用して、リアルタイムの映像認識をしているのですが、フレームレートが毎秒0.1程度しか出ません。
このままでは使い物にならないので高速化を模索しています。
これはハード側の問題でしょうか？

映像認識には初期状態から導入されているTensorFloowを使用しています。
また、OSはUbuntsuの最新版を入れています

tiitoi

2020/08/31 01:06

0.1 とは 0.1 FPS (10秒に1回処理) ということですか？それとも10FPSということですか？リアルタイムの映像認識とは具体的にどのようなモデルを使っているのでしょうか？

tsuyu_39

2020/08/31 01:20

0.1fpsで合っています。映像認識のモデルとは対象のことでしょうか？もしそうなら、画面内に映ったものは全て認識されます(ペンやコップ、机など)

tiitoi

2020/08/31 01:25 編集

タスクとモデル名のことです。(例: 物体検出で SSD を使っているなど) 処理速度は使っているモデルに依存するので、その情報が必要です。

tsuyu_39

2020/08/31 01:45 編集

タスクは物体検出です。モデルはSSD Lite Mobilenet V2でした

tiitoi

2020/08/31 01:57 編集

モデルはそれでいいと思います。そのモデルであればもう少し速度が出てもいい気もしますが。。。映像を表示する部分とか認識以外の部分で時間がかかっている可能性もありそうです。下記ブログより引用 https://karaage.hatenadiary.jp/entry/2019/04/29/073000 > 最初、認識のスピードがあまりに遅くて悩んだのですが、カメラの設定を詰めたら爆速になりました（カメラを大きい解像度で表示しているとそっちでGPUを消費してしまうようです）。

行動規範の内容に同意します

回答1件

0.1fpsで合っています。
映像認識のモデルとは対象のことでしょうか？
もしそうなら、画面内に映ったものは全て認識されます(ペンやコップ、机など)

パフォーマンスに関する設定

以下のリンクに記載の通り、起動時に以下のコマンドを入力することで性能を上げられます。

sudo nvpmodel -m 0
sudo jetson_clocks

Jetson Nano関係のTIPSまとめ - Qiita

モデルについて

Jetson Nano は1万5千程度で GPU 付きの PC として使えることを考えると、コストパフォーマンスはいいのですが、とはいえ、一般的な家庭用 GPU (RTX 2080 など) と比べるとかなり性能が低いです。
なので、使用するモデルの高速化に気をつけないと FPS がでないと思います。
速度に効いてくるのが、使用するモデルの種類とモデルの入力サイズです。

SSD Mobilenet V2 のような軽量な物体検出モデルを使用する
モデルの入力サイズは小さくする (例: 416x416, 320x320)

上記の処置で5FPSぐらいはでると思います。

それ以上高速化するには、TensorRT という Nvidia が提供しているモデル最適化の仕組みを使います。下記リンクにやり方が書いてあります。

Jetson Nanoでリアルタイムに物体検出をする方法（TensorFlow Object Detection API/NVIDIA TensorRT） - Qiita

投稿2020/08/31 01:52

tiitoi

総合スコア21956