多人数が同時接続するサーバについて

Question

サーバ初心者です。
多人数が同時接続するオンラインゲームなどのサーバは、ひとりのユーザ（クライアント）にひとつのスレッドを割り当てて対応するものだと思っていましたが、とある書籍によると、そうではないとのことです。
シングルスレッドで、多重化I/O（select()やpoll()、epoll()など）で多くのユーザに対応するらしいのですが、select()などは複数のディスクリプタを監視するだけで、複数のクライアントを同時にさばくということはできない気がします（ひとりのユーザに対応し終えてから、次のユーザに対応するしかないような気がする）。
シングルスレッドの多重化I/Oで数千人のユーザにほとんど同時に結果を返却することなど可能なのでしょうか？

Answer 1

こんにちは。

多人数が同時接続するオンラインゲームなどのサーバは、ひとりのユーザ（クライアント）にひとつのスレッドを割り当てて対応するものだと思っていました

基本的にはその考え方で正しいと思います。

ただ、少し前の32bitsマシンの場合、多数のスレッドを起動するとスタック用のアドレス空間が不足するので、C10K問題（＝1万台規模のクライアント）に対応できませんでした。
例えば、1スレッドに1MBytesのスタック用アドレス空間を割り当てると、1M × 10,000=0x271000000なので32ビットを越えるアドレス空間が必要となり対応不可能なのです。
そこで、スレッド（この場合はスタック）を使わないで対処する方法が色々と提案されました。

しかし、十分な解は見つかっていないようです。結局、１つのスタックで複数のシーケンス処理を行う場合、どうしてもコールバック地獄に陥るので好ましくはないのですが、背に腹は変えられないという感じのようです。

現代のサーバは64bitsのアドレス空間を持ちますから、アドレス空間不足でC10Kに対応できないということはありえません。しかし、未だにコールバック地獄を味わっている人たちがいるらしいので、他にも制限があるのかも知れません。

シングルスレッドの多重化I/Oで数千人のユーザにほとんど同時に結果を返却することなど可能なのでしょうか？

マルチコアなCPUでシングルスレッドでのみ処理するのは「バカ」以外の何物でもないです。当該スレッドを実行していないCPUは遊んでますから。
１つのスレッドで多数の処理を行い、そのようなスレッドを複数使うと言う解を聞いたことがあります。

Comments

[torimingo]

ご回答ありがとうございます。
やはり、スレッドは複数使うのですね。
「1つのスタックで複数のシーケンス処理を行う」というのは、1つのスタックで、複数のクライアントに対応するということでしょうか？
勉強不足ですみません、コールバック地獄というのは、どういうものでしょうか？
コールバックというと、OSがプログラムになにか通知するイメージがあるのですが、今回の話しに結びつけることができません。

[Chironian]

> 「1つのスタックで複数のシーケンス処理を行う」というのは、1つのスタックで、複数のクライアントに対応するということでしょうか？

概ねその通りです。

> 勉強不足ですみません、コールバック地獄というのは、どういうものでしょうか？

「A処理→A処理が終わってB処理」を「A.process(); A. wait(); B.process();」のように記述する場合は、サブスレッドを使うことで複数の処理を並列処理できます。

C10K問題の時にスレッドを使わない方法として「A処理完了後に呼び出す処理Bを指定する」仕組みが提案されました。「A処理→A処理が終わってB処理」は「A.process(B.process);」のような呼び出し方をします。B.processをA.process()完了後に呼び出すコールバックとして指定しています。この方法ならスレッドは１つだけでも複数の「A処理→A処理が終わってB処理」を並列処理できます。
しかし、「A処理→A処理が終わってB処理→B処理が終わってC処理」のように３段階４段階５段階と多段階に連なり、更に条件分岐もあると「地獄」を見ます。それが「コールバック地獄」です。

スレッドを使えば、そのような苦労とは無縁です。

（話を単純化するため、あえてラムダ式やコルーチンについて省略しています。ごめんなさい。）

[torimingo]

コールバック地獄について、丁寧に解説して頂きありがとうございます。
またひとつ勉強させて頂きました。

Answer 2

人数分のスレッドを起動する方が実行コストは高くなる可能性が高いです。 スレッドは見かけ上は「同時」であるかのように振舞いますが、実際にはコア (CPU) の数以上に同時に実行できるわけではなく、短い時間でスレッドを切り替えながら実行しているに過ぎません。 スレッドはコアの数より多くしても全体の処理速度が速くなるわけではないのです。

規模が大きくなって多重 I/O でさばけないようならスレッドでもさばけません。