Node.jsのイベントループとシングルスレッドについて

Question

Node.jsのイベントループについて質問です.
これまで, nodeのシングルスレッドで動作する機構の認識は複数のリクエストがnodeのサーバーが
受け付けた場合, 一つひとつのリクエストを順にさばいていくという認識でおりました.

const http = require('http'); // httpモジュールをrequire
const PORT = 3000; // 待機するポートは3000
let count = 0; // アクセスされた回数

const server = http.createServer(); // Serverオブジェクトを作成
server.on('request', doReq); // requestイベントにdoReqを登録
server.listen(PORT); // 待機

// requestイベント発火時時に実行する関数
function doReq(req, res) {
    if (req.url == '/dummy') {
        setTimeout(function() {
            count++;
            res.end(`count:${count}`); // アクセスされた回数をクライアントに返す
        }, 60000)
    } else if (req.url == "/") {
        count++;
        res.end(`count:${count}`); // アクセスされた回数をクライアントに返す
    }
}

その認識とは, 上記のようなnodeのプログラムを考えた場合,

1 番目のリクエスト A アクセスしたURL => http://localhost:3000/dummy/
2 番面のリクエスト B アクセスしたURL => http://localhost:3000

とします.

まずAがリクエストをした場合
node.jsのTimerが60秒後に無名関数をコールスタックに配置するまで
Aのリクエストは待機中だと思います.A

その後即座に
Bがリクエストをした場合
Bの処理はsetTimeoutはなく直ぐにレスポンスを返す処理になっています.

ここからはこれまでのわたしの認識でしたが,
AがリクエストしたあとsetTimeoutで60秒間またされている間
Bのリクエストもそれに伴って60秒間（イベントループでは厳密には4msごとに区切っているそうなので,正確ではないらしいですが)
待たされるという認識でした.

しかし 上記プログラムを実際に起動し
ブラウザ側でAリクエスト　(60秒間またされる)
ターミナルでcurl でBリクエストをしたところ
ターミナルのBリクエストは60秒またされずに即座にレスポンスが帰ってきました.

シングルスレッドと聴くと,前のAリクエストが終わらない限り次のリクエストまで処理が移らないと
思っていたのです.

上記のプログラムはなぜ

AとBともに一般的なマルチスレッドやマルチプロセスなサーバーと同じように
最初のリクエストで時間がかかっていても,次のリクエストをさばけているのでしょうか?

識者の方ご教授をお願い致します.

Answer 1

そもそもJavaScriptやNode.jsは完全なシングルスレッドではありません。
「他の要素にケツを拭いて貰いながらそうあろうと振る舞っているだけ」です。

何故そういう言い回しをしているのかを含めて解説していきます。

AとBともに一般的なマルチスレッドやマルチプロセスなサーバーと同じように

最初のリクエストで時間がかかっていても,次のリクエストをさばけているのでしょうか?

Node.jsはシングルスレッドという弱点を補う為の工夫があり、
実際には並列処理ではないものの、
まるで並列処理としか考えられない程のタスクを並列で処理していきます。

疑似並列処理を実現する為の工夫としてイベントループが挙げられます。

それらの工夫によって
「複数のリクエスト」を同時並行で処理して捌いているので
質問文のコードは100人が同時にアクセスしても100人がほぼ同時に同じ結果を受け取ることでしょう。

まぁ、Node.jsはC10K問題を解決する為のサーバーマシンプログラムであろうとした事にも影響しています。
参考記事: C10K問題 - Wikipedia

当時ポピュラーだったApache2.2等はC言語で書かれている超高速な言語なのに
クライアント1万台でパフォーマンスが急激に落ち込むなんて意外ですよね
この辺はプログラミング言語の仕様やその扱い方に対する問題らしいのですが……
もう解決済だから詳しい所はわかりません。興味があれば調べてください。

なでC言語に不可能でNode.jsに可能なのかという話に関しては、
Node.jsがイベントループを実現する為に裏で採用しているLibuvがクッソ激烈に優秀だからです。
参考記事: Node.jsの設計をつらつらと概観する - Qiita

---

勉強が捗るようにイベントループに触れていきます。

Node.jsを含むJavaScriptは以下の性質を持った言語です。

1. 今の処理を最優先で全て実行する(シングルスレッド)
2. 1の最中に「イベント登録」を行い保存する事ができる
3. 1終了後、「イベント登録」が残っていればプログラムの実行を終了せず、達成したイベントを巡回して探す
4. 達成したイベントを1個取り出し、セットになっている関数を実行
5. 必要があれば更にイベント登録を発行して裏側で作業させる

この3-5の繰り返しがイベントループです。
お偉いさんの机の上に大量の書類が積み重なり、それに承認していくような感じです。
つまり1度に叩ける関数は1個だけ、終わるまで次へいけません。

その作業が残像が出るほどの速度で回すから、
並列処理であるように錯覚するだけです。

具体的な例を挙げます。

console.log(1);
setTimeout(
  () => console.log(2),
  0
); // 0ミリ秒後に実行なので、その場で条件を満たしている
console.log(3);

1 -> 3 -> 2の順番で表示

何故「1 -> 3 -> 2」の順番で表示されるのか？
それはsetTimeoutがイベント登録を挟んでいるからです。

Node.jsにはイベント置き場というものが存在します
そのイベント置き場に対して、「達成条件」と「実行して欲しい処理を包んだ関数」の2個をセットで保存します。
これをイベント登録と呼びます。

setTimeoutはイベント登録に該当します。
「この処理が全て終わったら、イベントループ巡回のタイミングで、nミリ秒後経過している場合はセットの関数を実行せよ」
こういう命令とみなします。

なのでその場で条件が達成されていようがいまいが、「承知」と言うだけで流されてしまいます。
その後のイベントループという名の巡回フェイズで「そういや0ミリ秒後に実行して欲しいんだったよな？」という風に関数を取り出して実行しています。

だから2の表示が遅延されるわけです。
そして0ミリ秒後という約束はイベントループの周期や取り出す関数の都合上、即実行は出来ません。
ほぼ必ず数ミリ秒のズレは発生します。

---

とはいうものの、Node.jsは完全なシングルスレッドではありません。
裏で大量のC++モジュールやWebサーバ等を完全な同時並列で動かしています。

何かあればイベント登録という形でとにかく裏方で作業させて、
終わったらイベントループで結果を受け取り、後続の関数を叩いて続きの処理を促す。

こういう実装になっています。

「何かを待つならイベント登録して終われ」
これを合言葉にしているので重い処理はイベントで包んで飛ばしましょう。

Answer 2

setTimeout(function() {
            count++;
            res.end(`count:${count}`); // アクセスされた回数をクライアントに返す
        }, 60000)

これは『指定したfunctionを60秒後に実行するまで待つ』という意味ではありません。

『指定したfunctionは60秒後まで実行しないで、他のことをする』という意味です。

Answer 3

シングルスレッドと聴くと,前のAリクエストが終わらない限り次のリクエストまで処理が移らないと

思っていたのです.

setTimeoutは非同期処理です。Node.jsのシングルスレッドは、「一度に同期的な処理を1つずつしかできない」というだけで、非同期処理は無関係です（実行するべきタイミングになった＆他の同期処理が進んでいない段階で実行していきます）。

Comments

[退会済みユーザー]

ご回答ありがとうごじます.
>Node.jsのシングルスレッドは、「一度に同期的な処理を1つずつしかできない」
とありますが,
例えば http://localhost:3000/ に AとBの2つが同時にアクセスした場合
AリクエストとBリクエストは別スレッドになるということでしょうか?

[maisumakun]

なりません。片方の処理が先に進んで、その処理のうち同期的な部分が済むまではもう一方は待たされます。

[退会済みユーザー]

ちょっと話がずれるかもしれないのですが,
server.on('request', doReq); // requestイベントにdoReqを登録
上記の部分でhttpリクエストを複数受け付けた場合,それぞれのリクエストとdoReqイベントハンドラの紐付けというかそれぞれのリクエストに対してどのイベントハンドラの結果をブラウザに返してやればよいのかは
serverオブジェクトがすべて内部で担っているという認識をしていればよいのですかね?

[maisumakun]

そうですね、JavaScriptのプログラミングをする上では考える必要はないです。