ストリーミングの考え方

ストリーミングは、例えるなら「穴の開いたバケツに溢れない様に水を入れ続ける作業」の様なものだと考えています。
その考えに従ってアルゴリズムを書くと下記の様な感じになったのですが、この様なシンプルなもので問題ないのでしょうか。
下記は、動画処理に限ったものではありません。

書いていて気づいたのですが、データ取得の部分と処理部分は非同期にしないと処理が止まってしまいますね。
バケツの水を枯らさず、溢れさせなずのバランスが難しい様な気が致します。
バケツを大きくすれば良いのかな？

取得したデータを残すケース

java
1
2//カウンタ
3long n = 0;
4
5//1回で取得するデータ数
6long nLimit = 1000;
7
8//バッファ
9List<Object[]> listData = getData(nLimit*2);  //nLimit*2のデータ補充
10
11//処理ループ
12while(true){
13
14  //処理用のデータ取得
15  Object[] obj = listData.get(n);
16
17  //更新
18  n++;
19
20  //終了処理
21  if(n == nEnd)break;
22
23  //データ補充
24  if(n % nLimit == 0)listData.addAll(getData(nLimit));  //非同期
25
26  ///////////////////////
27  //処理
28  obj;
29
30}
31
32

取得したデータを残さないケース
メモリ節約

java
1
2//カウンタ
3long n = 0;
4
5//1回で取得するデータ数
6long nLimit = 1000;
7
8//バッファの切り替え
9boolean bl = true;
10
11//バッファ1, 2
12List<Object[]> listData1 = getData(nLimit);  //nLimit分のデータ取得
13List<Object[]> listData2;
14
15//処理ループ
16while(true){
17
18  //処理用のデータ取得
19  Object[] obj = bl ? listData1.get(n) : listData2.get(n);  //バッファ1 or 2
20
21  //更新
22  n++;
23
24  //終了処理
25  if(counter == nEnd)break;
26
27  //半分に達したらもう1つのバッファにデータ補充
28  if(n % (nLimit/2) == 0){
29    if(bl){
30      listData2 = getData(nLimit);  //バッファ2にデータ補充(非同期)
31    } else {
32      listData1 = getData(nLimit);  //バッファ1にデータ補充(非同期)
33    }
34  }
35
36  //空になったらバッファ切替
37  if(n == nLimit){
38    bl = bl ? false : true;  //バッファ切替
39    n = 0;                   //カウンタリセット
40  }
41
42  ///////////////////////
43  //処理
44  obj;
45
46}