[論文レビュー] Optimal Scheduling and Exact Response Time Analysis for Multistage Jobs

Ziv Scully, Mor Harchol‐Balter+1 more|arXiv (Cornell University)|May 17, 2018

Advanced Queuing Theory Analysis参考文献 17被引用数 6

ひとこと要約

本稿では、ジョブサイズの一部が事前に分かっているシステムにおけるスケジューリングのモデルとして、サイズが未知だがマルコフ的である段階を持つマルチステージジョブを導入する。マルチステージ・ギッティンズ方針（MGP）を提案し、単一ジョブ利益（SJP）を用いて段階別ギッティンズインデックスを計算することで最適スケジューリングを実現し、閉形式の応答時間解析を提供。これにより、初期サイズ情報を利用することで、ブラインドポリシーと比較して平均応答時間を最大28%まで短縮可能であることが示された。

ABSTRACT

Scheduling to minimize mean response time in an M/G/1 queue is a classic problem. The problem is usually addressed in one of two scenarios. In the perfect-information scenario, the scheduler knows each job's exact size, or service requirement. In the zero-information scenario, the scheduler knows only each job's size distribution. The well-known shortest remaining processing time (SRPT) policy is optimal in the perfect-information scenario, and the more complex Gittins policy is optimal in the zero-information scenario. In real systems the scheduler often has partial but incomplete information about each job's size. We introduce a new job model, that of multistage jobs, to capture this partial-information scenario. A multistage job consists of a sequence of stages, where both the sequence of stages and stage sizes are unknown, but the scheduler always knows which stage of a job is in progress. We give an optimal algorithm for scheduling multistage jobs in an M/G/1 queue and an exact response time analysis of our algorithm.

研究の動機と目的

• 広告配信や修理システムなどの現実世界のスケジューリングシナリオをモデル化するため、段階依存のサービス要件を持つマルチステージジョブを導入し、ジョブサイズが部分的にしか分からない状況を扱う。
• M/G/1キューにおいてマルチステージジョブの最適スケジューリングポリシーを構築し、現在の段階と段階内での経過時間（段階年齢）を両方活用して意思決定を行う。
• 提案ポリシーの正確な閉形式の応答時間解析を提供し、一般のギッティンズポリシーでは知られていない閉形式解析の欠如を克服する。
• マルチステージ構造を活用することで、段階レベルの情報を無視するブラインドポリシーと比較して、平均応答時間が顕著に短縮されることを示す。

提案手法

• ジョブサイズが未知だがマルコフ的である段階を経る「マルチステージジョブ」という新しいジョブモデルを提案。スケジューラは現在の段階と段階年齢を観測可能である。
• マルチステージジョブのギッティンズインデックスを再定式化するための「単一ジョブ利益（SJP）」形式を導入。これにより、段階別優先度の計算が容易になる。
• 現在の段階とその段階内での経過時間に基づき、SJPが最大のジョブを選択する「マルチステージ・ギッティンズ方針（MGP）」を構築。
• SJPの性質を活用し、システムを段階ごとの寄与度に分解することで、MGPの閉形式応答時間解析を導出。
• SJPフレームワークを用いてスケジューリングポリシーを比較し、部分情報下での最適性を証明。
• シミュレーションとブラインドポリシー（例：BGP）との解析的比較により、段階レベルの情報活用による利点を定量的に評価。

実験結果

リサーチクエスチョン

• RQ1 スケジューラが段階進行によって残りサイズの一部を把握できる部分情報環境において、マルチステージジョブの最適スケジューリングポリシーを設計可能か？
• RQ2 確率的段階と決定的段階の順序がスケジューリング性能および平均応答時間に与える影響は？
• RQ3 段階完了による早期サイズ情報の学習が、合計ジョブ年齢のみに依存する場合と比較して、スケジューリング効率をどの程度向上させるか？
• RQ4 マルチステージジョブモデルにおける最適ポリシーの閉形式応答時間解析が可能か？
• RQ5 段階レベルの構造を活用する場合と、合計年齢のみを情報とするブラックボックスとして扱う場合とで、性能向上の程度はどの程度か？

主な発見

• マルチステージ・ギッティンズ方針（MGP）は、単一ジョブ利益（SJP）を用いて計算された段階別ギッティンズインデックスを活用することで、マルチステージジョブの最適スケジューリングを達成する。
• ジョブの段階順序が異なる場合、MGPは高負荷時で最大21%、中程度負荷時で12%の平均応答時間短縮をブラインド・ギッティンズポリシー（BGP）と比較して達成する。
• 初期サイズ情報（例：修理の難易度）が利用可能な場合、MGPは高負荷時で最大28%、中程度負荷時で17%の平均応答時間短縮をBGPと比較して達成する。
• 同じ合計サイズ分布を持つジョブにおいて、変動性を先に集中させる（つまり、確率的段階を早期に配置する）ことで、平均応答時間が改善されることを証明した。
• SJPを用いた閉形式応答時間解析により、部分情報設定下でのギッティンズポリシーに対して、以前は存在しなかった正確な性能評価が可能になった。
• マルチステージ構造を無視するとスケジューリングが非最適化され、段階レベルの情報を活用することで、現実世界のワークロードにおいて顕著な性能向上が達成されることを示した。