kerasで組んだ学習済みネットワークをコンパイラ言語で実行

Question

C++で行っていたあるアルゴリズムによる画像処理を行っていました。

それをディープラーニング実現できないか？と思い、Tensorflowをバックエンドとしたkerasでネットワークの構築、学習、保存をしました。言語はpythonです。

C++による画像処理と、pythonで書かれkerasで学習したネットワークによる画像処理の時間を比較したいです。

しかし、pythonはインタプリタ言語であるため、それぞれの環境(python上とC++上)で行っても、正確な処理時間の比較にはならないと思いました。

そこで質問なのですが、kerasで作成したネットワークをコンパイラ言語に移植し、実行する方法を教えていただきたいです。

よろしくお願いいたします。

Answer 1

よっぽど複雑な処理をしていない限り、ニューラルネットワークの方が速いことはないと思います。
O(n^3)以上ならワンチャンあるかもしれません。
それでも厳密解と近似解なので、精度の劣化についても考慮に入れる必要があります。

演算のおよその数は見積もることができるので、手計算の方が比較として適切です。

Answer 2

keras2cppというツールがあるようです。

GitHub - pplonski/keras2cpp: This is a bunch of code to port Keras neural network model into pure C++.

手でコーディングしてごりごり変換していくことも、そこまで手間をかけずに可能でしょう。参考になりそうな記事がありました。

[Python]KerasをTensorFlowから，TensorFlowをc++から叩いて実行速度を上げる

これを見る限りだと1桁も改善しないようなので（ただしCPUでやるかGPUでやるかにもよると思います。この記事はCPUのような）、ざっくり比較することが目的ならそこまでしなくても良いような気はします。

Comments

[unramapomg]

早速の御回答ありがとうございます。
参考にさせていただきます。