[論文レビュー] Scheduling with Predictions and the Price of Misprediction

Michael Mitzenmacher|arXiv (Cornell University)|Feb 2, 2019

Advanced Bandit Algorithms Research参考文献 33被引用数 27

ひとこと要約

本稿では、予測されたサービス時間に基づくジョブスケジューリングの分析フレームワークを提示し、真のサービス時間と予測されたサービス時間の両方をモデル化する連続密度関数 $g(x,y)$ を用いて、最短予測ジョブ優先（SPJF）や最短予測残り処理時間（SPRPT）といった戦略の正確な性能式を導出する。主な貢献は、予測の不正確さに起因する性能損失、すなわち「予測の誤りのコスト」を定量化することであり、弱い予測でも高負荷下において特に顕著な利点が得られることを示している。

ABSTRACT

In many traditional job scheduling settings, it is assumed that one knows the time it will take for a job to complete service. In such cases, strategies such as shortest job first can be used to improve performance in terms of measures such as the average time a job waits in the system. We consider the setting where the service time is not known, but is predicted by for example a machine learning algorithm. Our main result is the derivation, under natural assumptions, of formulae for the performance of several strategies for queueing systems that use predictions for service times in order to schedule jobs. As part of our analysis, we suggest the framework of the "price of misprediction," which offers a measure of the cost of using predicted information.

研究の動機と目的

• ジョブのサービス時間が既知ではなく予測されている状況に、古典的キューイング理論を拡張すること。
• スケジューリング戦略において不正確な予測を使用する場合の性能コストを定量化すること。
• さまざまな機械学習ベースの予測システムをキューイング環境に適用可能な一般化された分析フレームワークを構築すること。
• 予測情報がまったくない状況と比較して、低精度の予測でもシステム性能が著しく向上することを示すこと。

提案手法

• 真のサービス時間 $x$ と予測されたサービス時間 $y$ を用いて、連続確率密度関数 $g(x,y)$ を用いて予測をモデル化する。
• 連続密度関数 $g(x,y)$ をもとに、SPJFおよびSPRPT戦略におけるシステム内滞在時間の期待値を正確に導出する解析的式を導出する。
• 競合分析と確率的仮定を用いて、さまざまな負荷条件における性能指標を計算する。
• さまざまな分布（指数分布、ワイブル分布など）および予測精度の下で、理論的結果を広範なシミュレーションにより検証する。
• 予測誤差に起因する性能低下を定量化する指標として「予測の誤りのコスト」を導入する。
• 有限ジョブおよび無限キュー（定常状態）の両設定にフレームワークを適用し、ポアソン到着を持つキューイングシステムに焦点を当てる。

実験結果

リサーチクエスチョン

• RQ1 真のサービス時間ではなく予測されたサービス時間を使用する場合、SPJFおよびSPRPT戦略の性能はどの程度低下するか？
• RQ2 キューイングシステムにおいて、予測精度とシステム性能との間の解析的関係は何か？
• RQ3 「予測の誤りのコスト」は、システム負荷および予測誤差分布にどのように依存するか？
• RQ4 弱い予測やノイズの多い予測であっても、情報なしの状況と比較して性能がどの程度向上するか？
• RQ5 標準的なキューイング仮定の下で、予測を用いたスケジューリングの正確な性能式を導出できるか？

主な発見

• SPJFおよびSPRPT戦略におけるシステム内滞在時間の期待値について、理論的式は全テスト負荷および分布でシミュレーション結果と1%以内の誤差で一致した。
• 予測誤差（例：予測時間が $[(1-\alpha)x, (1+\alpha)x]$ の一様分布に従う）が存在する場合でも、$\alpha$ の増加に伴い性能低下は滑らかに進行した。
• 高負荷（$\lambda = 0.99$）下では、SPRPTに予測を適用した場合、FIFOの100に対しシステム内滞在時間の期待値が約28.79にまで低下し、顕著な向上が得られた。
• $\lambda = 0.95$ の場合、$\alpha = 0.2$（20%誤差）の予測でも、完全な知識がある場合の約8.32と比較して、期待滞在時間は約8.41にとどまり、性能損失は最小限に抑えられた。
• 予測が比較的正確であれば、「予測の誤りのコスト」は低く抑えられ、不正確な予測であっても依然として有益であることが示された。
• 本フレームワークは、重尾分布（例：ワイブル分布）に対しても良好に一般化され、さまざまなサービス時間特性にわたるロバスト性を示した。