レスポンスタイムの評価について

Question

とても初歩的な質問ですが，ネットで検索してもイマイチしっくりこないので質問します．

システムのレスポンスタイムについてなのですが，
例えばリクエストを送り，レスポンスが帰ってくるまでの速度が2secだった場合，
秒間１アクセスをし続けると，どんどんサーバー側でリクエストが溜まるのでしょうか？
それとも並列で処理を進めており，全てが２秒でレスポンスを送るのでしょうか．

自分としては後者なのかと思っていたのですが，
システム評価の際，同時アクセス数を増やしていくにつれて，
平均レスポンスタイムが大きくなってしまっています．

例えば，多くて５秒に１回アクセスされると予測できるシステムの開発の際には，
レスポンスタイムを５秒以内に抑えないと，どんどん遅くなっていくのでしょうか？

Answer 1

合ってもいますし、違ってもいます。

ご質問の内容が正解になるのは少コア少スレッドで通信時間を考えない場合の話です。

実際には、ダウンロード時間も含まれます。

現在のサーバーでは多コア多スレッド化が進んでおりスレッドごとでの並列処理が可能です。

これの処理量をはるかに超えるリクエストが来た時にでるのがHTTP 503です。俗にいう「メンテナンスエラー」や「アクセス集中エラー」です。

もし、間違っていましたらその旨お知らせいただけると幸いです。

Comments

[asasaas]

回答ありがとうございます．
現在Apache jmeterで負荷テストを行なっているのですが，これによってエラーが出ていない限りは通常に動作すると言って良いのでしょうか？
また，そのシステムのアクセス数の限界値というものはどう判断すれば良いのでしょうか？