画像処理→ファイル処理の速度を向上させたい

Question

前提・実現したいこと

画像処理について独学で学んでいるのですが

動画をコマ割り・二値化　→　黒の領域が大きい写真を探す　→　見つかった画像より前の画像を削除　→　最大画像を0として番号を振りなおす　

という処理を行いたいと考えています。

発生している問題・エラーメッセージ

調べながら何とか完成させたのですがプログラムが悪いのか
処理に時間がかかりすぎます
大体5000ファイル処理したいのですが10分ほどかかってしまいます

該当のソースコード

import os
import cv2
import numpy as np
import glob
from PIL import Image
import os


file_list = glob.glob('//image_dir//*jpg')
 
for file in file_list:
 os.remove(file)
    

#動画コマワリ
movie_name='s'
movie='//directory//1_.avi'

cap=cv2.VideoCapture(movie)
count=0
while True:
 ret,frame=cap.read()
 if ret==True:
  count += 1
  cv2.imwrite('//image_dir//' + movie_name+'_' + str("{0:05d}".format(count)) + '.jpg',frame)
 else:
  break

#最大画像を取得
for j in range(1,5000):
 filename='//image_dir//s_%05d.jpg'%(j)
 im = np.array(Image.open(filename).convert('L'))
 
#閾値
 im_ = (im > 180) * 255
 c=0
#最大画像を探索
 max1=0
 for i in range(2048):  
  if im_[1,i]==0:
   c=c+1
 if max1<c:
  max1=c
  d=j
  c=0
print(d)

#不要画像の削除
for l in range(1,d):
 os.remove('//image_dir//s_%05d.jpg'%(l))

a=0
directory='//image_dir//'
files=os.listdir(directory)
for file in files:
 path = os.path.join(directory,file) #パス
 name = str('%06d')%(a)+'.jpg'
 target = os.path.join(directory,name)
 os.rename(path,target)
 a = a + 1

コマ割で時間がかかってしまうのは分かるのですが、もう少し短縮したいです。

ご教授お願い致します。

追記

import os
import cv2
import numpy as np
import glob
from PIL import Image
import os
import sys
import re

file_list = glob.glob('//image_dir//*jpg')
 
for file in file_list:
  os.remove(file)
    

#動画コマワリ
movie_name='s'
movie='//11.avi'

cap=cv2.VideoCapture(movie)
count=0
max1=0
c=0
while True:
  ret,frame=cap.read()
  if ret==True:
   cv2.imwrite('//image_dir//' + movie_name+'_' + str("{0:05d}".format(count)) + '.jpg',frame)
   
#二値化
   filename='//image_dir//s_%05d.jpg'%(count)
   im = np.array(Image.open(filename).convert('L'))
   im_ = (im > 180) * 255
#最大画像を探索
   for i in range(2048):  
    if im_[100,i]==0:
     c=c+1
   if max1<c:
    max1=c
    c=0
    pil_img = Image.fromarray(im)
    pil_img.save('//image_dir//s_00000.jpg')
    count=1

   else: 
    count += 1
  else:
   break

Answer 1

回答ではないですが、追記・修正依頼に長文では書けないので。

◆速度向上させる時の原則
0. 要件を満たしているコードを最適化する。
ret,frame=cap.read()で動画のフレームを読んでcv2.imwriteしていますが、5000フレーム以上cv2.imwriteしていませんか？

1. テストコードを書く

速度向上はコード変更を伴うので、既存の動作と同じようになるように簡単なテストコードを書いてください。
これによってコード変更によるコード破壊が防げます。

1. 最適化後の目標タイムを決める。

現状 5000ファイルが10分との事ですが。
1秒でも改善されたら良い以外だと最終的な目標タイムを決めないと、ぐだぐだになりやすいです。
※パソコンのハード上の制約上、この速度以上は無理が原理上発生するので

1. 推測せずにまずプロファイラを取る

CPUプロファイラ、メモリプロファイラを取りボトルネックポイントを確認してくださいな。
コードを関数化しないと取りづらいので、処理ごとに関数化されることをお勧めします。

あとIO操作を伴うならpathlibモジュールが便利です。

Comments

[p_pp]

ご指摘ありがとうございます
さっそくプロファイルとってみます！！

Answer 2

読み込んだ時点で
「動画をコマ割り・二値化」
までやって、
「黒の領域が大きい写真」
が更新されるたびに逐次上書きしてしまえば、一度すべて画像を書き出した後に、いらないものを消す必要がなくなります。

Comments

[p_pp]

import os
import cv2
import numpy as np
import glob
from PIL import Image
import os
import sys
import re

file_list = glob.glob('//image_dir//*jpg')

for file in file_list:
os.remove(file)

#動画コマワリ
movie_name='s'
movie='//11.avi'

cap=cv2.VideoCapture(movie)
count=0
max1=0
c=0
while True:
ret,frame=cap.read()
if ret==True:
cv2.imwrite('//image_dir//' + movie_name+'_' + str("{0:05d}".format(count)) + '.jpg',frame)

#二値化
filename='//image_dir//s_%05d.jpg'%(count)
im = np.array(Image.open(filename).convert('L'))
im_ = (im > 180) * 255

#最大画像を探索
for i in range(2048):
if im_[100,i]==0:
c=c+1
if max1<c:
max1=c
c=0
pil_img = Image.fromarray(im)
pil_img.save('//image_dir//s_00000.jpg')
count=1

else:
count += 1
else:
break

[p_pp]

ありがとうございます
トライしてみましたが最大画像に更新されません
プログラムが間違っているのでしょうか

[mkgrei]

インデントが崩れていてif文の範囲がわからないのでなんとも言えません。
質問文に追記して、インデントを有効にしてください。

[p_pp]

よろしくお願い致します．

[p_pp]

すみません
解決しました。
ｃ＝0の位置が違いました。。

Answer 3

あまり詳しく検討してはいませんが、思いつくことを。

• ファイル読み込み/書き込みを多用していますが、おそらく最大のボトルネックになっています。部分的にでもメモリに載せて処理できませんか？　あとはasyncio等で隠蔽するか（難しいですが）
• 探索のコードは疑問。画像の配列の1行目に存在する0の数が大きければという処理ですか？　max1=0がループの内側にあるのもおかしい気がします。
• 本題と関係ありませんが、スペース1つ単位のインデントはさすがにちょっと・・・

Comments

[p_pp]

そのとおりでした
max１の位置が間違っていました
ありがとうございます

スペースひとつ単位のインデントはやめたほうがいいのでしょうか

[hayataka2049]

見やすいことが大切なので、視認性を考えるとスペース1つはやめたほうが良いですね。
ちなみに公式コーディング規約のPEP8ではスペース4つを推奨しています。
https://pep8-ja.readthedocs.io/ja/latest/