[論文レビュー] Improving Online Algorithms via ML Predictions

Ravi Kumar, Manish Purohit+1 more|arXiv (Cornell University)|Jul 25, 2024

Optimization and Search Problems参考文献 13被引用数 120

ひとこと要約

本論文では、機械学習で得られた予測を用いてスキーレンタルと非 clairvoyant スケジューリングの性能を改善するオンラインアルゴリズムを設計し、予測が良好な場合には一貫性を、予測が不良な場合には堅牢性を実現し、さらに実証的検証を行う。

ABSTRACT

In this work we study the problem of using machine-learned predictions to improve the performance of online algorithms. We consider two classical problems, ski rental and non-clairvoyant job scheduling, and obtain new online algorithms that use predictions to make their decisions. These algorithms are oblivious to the performance of the predictor, improve with better predictions, but do not degrade much if the predictions are poor.

研究の動機と目的

• 不確実性の下でオンラインアルゴリズムを改善するためにML予測の活用を動機づける。
• 予測が正確なときに一貫性があり、予測が不十分なときにも堅牢なオンラインアルゴリズムを開発する。
• スキーレンタルと非 clairvoyant スケジューリングに対する証明可能な保証（堅牢性と一貫性）を提供する。
• 予測を活用する決定論的および乱択的戦略を探る。
• 予測ベースの手法と古典的ベースラインを比較する実験を通じて実用性を検証する。

提案手法

• 予測誤差を eta = L1(prediction - reality) とモデル化し、γ-堅牢性とβ-一貫性を目指す。
• パラメータ λ ∈ (0,1) を用いて (Algorithm 2) という決定論的な堅牢/一貫したスキーレンタルアルゴリズムを開発し、(1+1/λ)-堅牢性と(1+λ)-一貫性を達成する。
• パラメータ b に依存する乱択の堅牢/一貫したスキーレンタルアルゴリズム（Algorithm 3）を開発し、(1+1/b)/(1−e^{−(λ−1/b)})-堅牢性と (λ)/(1−e^{−λ})-一貫性を達成する。
• 非 clairvoyant スケジューリングについて、SPJF（Shortest Predicted First）とPRR（Preferential Round-Robin）を導入し、構造的補題を用いて組み合わせ、競争保証を持つ堅牢/一貫アルゴリズムを得る。
• λ および予測誤差 η の関数として、具体的な競争比とトレードオフを提供する。
• スキーレンタルを可変需要設定へ拡張し、同じ堅牢性/一貫性の枠組みが適用されることを示す。

実験結果

リサーチクエスチョン

• RQ1 ML予測を用いてオンラインアルゴリズムを改善する際、予測品質を前提としない方法はどのように設計できるか。
• RQ2 予測を用いたスキーレンタルにおける最良の堅牢性と一貫性の保証は何か。
• RQ3 予測付きの非 clairvoyant スケジューリングにおける最良の堅牢性/一貫性のトレードオフは何か。
• RQ4 予測誤差は性能にどう影響するか、乱択戦略は決定論的戦略より優れる場合があるか。

主な発見

• 予測付きの決定論的スキーレンタルは (1+1/λ)-堅牢性と (1+λ)-一貫性をもたらす。
• 予測付きの乱択的スキーレンタルは (1+1/b)/(1−e^{−(λ−1/b)})-堅牢性と (λ)/(1−e^{−λ})-一貫性を実現。
• 予測付きの非 clairvoyant スケジューリングは、確率的アルゴリズムで (2/(1−λ))-堅牢、(1/λ)-一貫性を達成できる。
• SPJF は η/n の総予測誤差を用いたとき競争比が最大で 1+2η/n。n はジョブ数。
• PRR と SPJF の組み合わせは競争比を min{(1/λ)(1+2η/n), 2/(1−λ)}、堅牢性を 2/(1−λ)、一貫性を 1/λ とする。
• η=0 のとき、PRR は完璧な予測の下で (1+λ)/(2λ) に達し、その場合はラウンドロビンより改善。
• 実験では予測ベースのアルゴリズムが古典的なベースラインを上回り、決定論的および乱択的バリアントが予測非使用手法よりも幅広い誤差レベルで性能が良好。