TPL(Task Palallel Library)について、英語の説明がわかりません

Question

下記の意味がよくわかりません。

Using the TPL to create another thread to execute a CPU-bound operation while the originating thread has to
wait for it won’t help you with increasing performance.

下記のように訳してみましたが、よくわかりません。
オリジナルスレッドが待たなければならない間にCPU-BOUNDを実行する別スレッドを作成するためにTPLを
使用することは、パフォーマンスを上げることにならない。

Answer 1

Using the TPL to create another thread to execute a CPU-bound operation while the originating thread has to

wait for it won’t help you with increasing performance.

その速度が CPU に依存するような処理を実行する別のスレッドを作り、元々のスレッドがそれを待たなくてはならないような場合、TPL をつかってもパフォーマンスは上がりません。

Comments

[kazuya_]

ご回答ありがとうございます。具体的にコード例を教えていただければありがたいです。

[Zuishin]

は？

Answer 2

例えば重たい数式の計算だったり、メモリ上にロードされた全データのスキャンだったりみたいなのを非同期にラップしても、並列化した時精々最大でコア数分の軽量化にしかならない。それどころかスレッドをそれ以上作るとコンテキストスイッチ分動作速度が遅くなる。

また、メソッドの処理が極めて短い場合、1万の要素を並列化処理で4コアだから4スレッドたてて処理…ってやるにしても、その処理が1万回起動されるとスレッドの作成コストのせいで短くならなかったり。
（2500個の要素4つの配列に分けて実行すれば別だが、割り込みによって2500個同時にデータの処理が終わるわけではないのは想像がつくよね。つまりムズイってことだ！）
だから、IEnumerable<T>を単純にAsParallel()して、各メソッドに要素突っ込むぜ、コア全部使うぜ、これで最速だろ！なんて思っても、大体の場合早くならない。場合によっては遅くなる。

例えば、下記のコードはDoSomethingがCPU-BOUNDだと簡単には早くならない。

foreach (var item in items.AsParallel())
{
    DoSomething(item);
}

CPUを消費する処理はそう単純に並列化によるパフォーマンス改善を受けられない。

非同期関数を作成する場合、もっとも効果が高いのはCPUを消費しない処理だ。
そういう、CPU-BOUNDではない処理ってなんだろうか。
それは例えば、データダウンロードとかのことだ。
データのダウンロードでは伝送コストの方がよっぽど高くて、ほとんどCPUは待機状態になる。
TCP/IPではデータ伝送のスループットがCPU計算よりずっと遅いからね。
そういったものは並列化に向いてる。
複数ファイル同時にダウンロードできるぐらいの性能がLANポートには十分あるし、シングルコアでも並列化することで高速化できる。

---

君のためにどうでもいいコードを書いてみた。
十分にCPU計算処理が重たい場合、コア数分は高速化する。
しかし、短いCPU計算の場合、速度は劣化する。

namespace ParallelSample
{
    using System;
    using System.Diagnostics;
    using System.Linq;
    using System.Threading.Tasks;

    class Program
    {
        const int num = 100;

        static void Main(string[] args)
        {
            if (args.Length != 1) return;

            var start = long.Parse(args[0]);

            var single = new Stopwatch();
            var result_s = new bool[num];
            single.Start();
            foreach (var i in Enumerable.Range(0, num))
            {
                long value = start + i * 2;
                result_s[i] = IsPrime(value);
            }
            single.Stop();

            Console.WriteLine($"シングルスレッド : {single.ElapsedMilliseconds}ms");

            var parallel = new Stopwatch();
            var result_p = new bool[num];
            parallel.Start();
            Parallel.ForEach(Enumerable.Range(0, num), i =>
            {
                long value = start + i * 2;
                result_p[i] = IsPrime(value);
            });

            parallel.Stop();
            Console.WriteLine($"マルチスレッド : {parallel.ElapsedMilliseconds}ms");
        }

        // 全ての値で割ってみて、素数か判定するのを原始的に行うメソッド
        static bool IsPrime(long n)
        {
            for (long i = 2; i < n; i++)
            {
                if (n % i == 0) return false;
            }
            return true;
        }
    }
}

結果は、i5-3470S@2.90GHzのPCで以下のようになった。

> ParallelSample 10001
シングルスレッド : 2ms
マルチスレッド : 19ms

> ParallelSample 100001
シングルスレッド : 11ms
マルチスレッド : 21ms

> ParallelSample 10000001
シングルスレッド : 595ms
マルチスレッド : 207ms

原始的に素数判定を行っているため、素数の判定開始数値が大きくなると飛躍的にCPU処理時間が増える。
このため、計算量がスレッド開始のコストを上回る計算量になって初めてマルチスレッドはコア数分の時間短縮を受けられる。
しかし、通常私たちが使う計算式はそんなに長時間CPUを占有しないので、スレッド開始のコストが並列化のメリットを上回ってしまう。
例えば、重たい処理の一つにマップ探索アルゴリズムなどがあげられるが、これにしたって最適化されていれば単純に並列化しただけではパフォーマンス増加に繋がらない可能性は十分にあり得る。（メモリも沢山使うしね）

仮にI/Oバウンドな処理を行っていたとしても、並列数を引き上げ過ぎると「待機の確認」に時間がかかりすぎてしまい、速度は低下することもあるし、並列化は扱いが難しいものだ。
常に計測が必要ってことを覚えておいてもらえれば、とりあえずはいいんじゃないかな。

Comments

[kazuya_]

ご回答ありがとうございました。
AsPallelは、複数コアを使用するので、内部で複数スレッドが生成されているんですよね。Taskで処理をした場合は、複数Taskが、複数スレッドで、複数コア使用になるんですかね。

[haru666]

AsParallelはPLINQだったね、まあ似たようなものだけど

内部で複数スレッドが生成されて管理されているんだけど、それをスレッドプールっていう。
そのスレッドプールを上手く利用するのに使用される作業単位がタスクだ。
ただどんなにうまく管理されていてもタスクを順次処理するのにかかるコストは安くはないんだ。

同時実行してるタスクがあれば、基本的に複数のスレッドが忙しく働き、結果として全部のコアが稼働中になるだろうね。

そのあたりは++C++でも読んでね！
http://ufcpp.net/study/csharp/misc_task.html

[haru666]

全コア使って普通の計算より遅い、または同じぐらいっていうのは、コストが良いとはいえないよね。基本的にはCPU依存の処理を並列化するっていうのは、無駄に世話しなくCPUを使ってることになりがち。PCからしてみれば嫌がらせみたいなもんだろね。

Answer 3

こんにちは。

めっちゃ意訳すると、下記と思います。

CPUをぶん回すようなスレッドを実行し、その実行終了を元のスレッドが待つ時、TPLは役に立たない

シングル・コアのマシン、もしくは、複数のスレッドを同時に待てないようなライブラリの場合、成立すると思います。
TPLについて私は把握していませんが、TPLがそのような正直役に立たないライブラリなのか、その文の筆者がマルチ・コアのことを知らないのかのどちらかのように感じます。
あ、ごめんなさい。もう一つ、私の英語力不足でちゃんと読めていない可能性もあります。（落とし穴があるような英文ではないとは思いますが．．．）

Comments

[kazuya_]

ご回答ありがとうございます。具体的にコード例を教えていただければありがたいです。

[Chironian]

英語の意味が分からないが質問だったのでは？
突然コード例の話が出ても何のことなのか理解できないです。