[論文レビュー] A Combined LIFO-Priority Scheme for Overload Control of E-commerce Web Servers

Naresh Singhmar, Vipul Mathur+2 more|ArXiv.org|Nov 17, 2006

Network Traffic and Congestion Control参考文献 7被引用数 23

ひとこと要約

本稿では、eコマースWebサーバーの過負荷制御を向上させるために、収益を生む取引要求をブラウジング要求よりも優先するLIFO-Priority（LIFO-Pri）スケジューリング方式を提案する。ブラウジングキューにLIFO方式を適用し、取引キューに絶対的優先順位を設けることで、取引の完了率が7倍に向上し、1.5倍の過負荷状態でも最大容量の60％を維持可能となり、リクエストの放棄が著しく減少し、スループットと応答時間の両方が向上する。

ABSTRACT

E-commerce Web-servers often face overload conditions during which revenue-generating requests may be dropped or abandoned due to an increase in the browsing requests. In this paper we present a simple, yet effective, mechanism for overload control of E-commerce Web-servers. We develop an E-commerce workload model that separates the browsing requests from revenue-generating transaction requests. During overload, we apply LIFO discipline in the browsing queues and use a dynamic priority model to service them. The transaction queues are given absolute priority over the browsing queues. This is called the LIFO-Pri scheduling discipline. Experimental results show that LIFO-Pri dramatically improves the overall Web-server throughput while also increasing the completion rate of revenue-generating requests. The Web-server was able to operate at nearly 60% of its maximum capacity even when offered load was 1.5 times its capacity. Further, when compared to a single queue FIFO system, there was a seven-fold increase in the number of completed revenue-generating requests during overload.

研究の動機と目的

• 高頻度のブラウジング要求による過負荷状態で性能劣化やリクエスト放棄が生じるeコマースWebサーバーの課題に対処すること。
• 収益を生む取引要求と間接的収益のブラウジング要求を区別し、前者を優先することでビジネス成果を最大化すること。
• 現実のワークロード条件下でサーバーのスループットとリクエスト完了率を向上させる、シンプルで効果的な過負荷制御メカニズムの設計と実験的検証を行うこと。
• ブラウジングキューにLIFOスケジューリングを、取引キューに絶対的優先順位を組み合わせることで、過負荷時におけるシステムのレジリエンスとパフォーマンスが向上することを示すこと。

提案手法

• 著者らは、変動するセッション期間、リクエストの放棄、再試行を含む、現実的なユーザ行動を模倣するセッションベースのワークロードモデルを開発した。
• 二重キューアーキテクチャを実装した：ブラウジング要求は別個のキューでLIFO方式によりサービスされ、取引要求はブラウジングキューに対して絶対的優先順位が与えられる。
• 動的優先順位モデルを用いて、システム負荷とパフォーマンス指標に基づき、ブラウジングキューのサービス重みを調整する。
• CPU使用率を過負荷の指標とし、使用率がしきい値を超えた際にLIFO-Priスケジューリングポリシーを発動する。
• 実際のWebサーバーエミュレータを用いて、さまざまな負荷状態下での実験的評価を実施した。
• LIFO-Pri方式は単一キューFIFO方式および絶対的公平性を確保する8キュー重み付きフェアキューイング方式（8Q-AF）と比較された。

実験結果

リサーチクエスチョン

• RQ1 ブラウジング要求にLIFOスケジューリングを、取引要求に絶対的優先順位を適用することにより、サーバー過負荷時における取引完了率にどのような影響を与えるか？
• RQ2 FIFOおよびフェアキューイング方式と比較して、LIFO-Pri方式はリクエスト放棄をどの程度低減し、応答時間分布をどのように改善するか？
• RQ3 LIFO-Priメカニズムは、サーバーの名目容量の1.5倍の負荷が与えられた場合でも、高いサーバー利用率（例：最大容量の60％）を維持できるか？
• RQ4 特にユーザの再試行や放棄が発生する状況下で、LIFO-Pri方式は高負荷下における生成および完了した取引リクエスト数にどのような影響を与えるか？
• RQ5 長時間の応答時間によるセッション放棄数を削減するという点で、LIFOの効果は何か？

主な発見

• 過負荷時、LIFO-Pri方式は単一キューFIFO方式と比較して、収益を生むリクエストの完了数を7倍に向上させた。
• サーバーが自身の最大容量の1.5倍の負荷を受けた場合でも、ほぼ最大容量の60％を維持することができ、過負荷下での高いレジリエンスを示した。
• 負荷係数ρ=1.4の状態で、LIFO-Priは195件中187件の「ログイン」リクエストを完了させ、タイムアウトが8件、ドロップはゼロであり、他の方式を著しく上回った。
• ブラウジングリクエストの放棄数は、8Q-AFの16,305件から8Q-LIFO-Priの4,075件にまで低下し、ユーザーの維持率とシステムの応答性の向上が顕著に示された。
• 「メイン」ページ（Br-1）において、LIFO-Priでは80％のリクエストが5秒以内の応答時間で完了したが、FIFOおよび8Q-AFではそれぞれ10％にとどまり、ユーザーが感じ取るパフォーマンスの向上が顕著に確認された。
• すべての負荷レベルにおいて、完了した取引の平均応答時間がLIFO-Pri方式で著しく低く抑えられ、放棄の減少とスループットの向上に寄与した。