[論文レビュー] Customizing ML Predictions for Online Algorithms

Keerti Anand, Rong Ge+1 more|arXiv (Cornell University)|May 18, 2022

Optimization and Search Problems参考文献 20被引用数 13

ひとこと要約

本稿では、オンラインアルゴリズムの性能を直接最適化するように機械学習モデルをカスタマイズする「学習して借りる（learning-to-rent）」フレームワークを提案する。通常の予測誤差の代わりに、競合比（competitive ratio）を損失目的として採用することで、$(1+\varepsilon)$ の競合比を達成しつつ、サンプル複雑性を向上させ、予測が敵対的であっても最悪ケースのロバストネスを維持する。

ABSTRACT

A popular line of recent research incorporates ML advice in the design of online algorithms to improve their performance in typical instances. These papers treat the ML algorithm as a black-box, and redesign online algorithms to take advantage of ML predictions. In this paper, we ask the complementary question: can we redesign ML algorithms to provide better predictions for online algorithms? We explore this question in the context of the classic rent-or-buy problem, and show that incorporating optimization benchmarks in ML loss functions leads to significantly better performance, while maintaining a worst-case adversarial result when the advice is completely wrong. We support this finding both through theoretical bounds and numerical simulations.

研究の動機と目的

• 既存の最適化のための機械学習手法が機械学習をブラックボックスとして扱うというギャップを埋めるために、本稿では学習アルゴリズムを再設計し、最適化の目的関数に直接対応するようにする。
• 得られたオンライン方策の競合比に損失関数を一致させることで、オンラインアルゴリズム設計におけるサンプル効率を向上させる。
• 機械学習の予測が誤りまたは敵対的であっても、最悪ケースのロバストネス（有界な競合比）を維持する。
• 最適化に配慮した目的関数で学習することで、標準的な機械学習訓練に比べてオンライン環境下での性能が向上することを示す。
• 提案された学習して借りるフレームワークのサンプル複雑性とロバストネスに関する理論的境界を確立する。

提案手法

• 本稿では、入力特徴 $x$ をレンタル期間 $\theta(x)$ にマッピングする学習して借りるアルゴリズムを導入し、真の季節長 $y$ を予測するのではなく、直接競合比を最適化する。
• 平均二乗誤差のような標準損失を最小化するのではなく、特徴と真の期間の同時分布 $\mathbb{K}$ における期待競合比を最小化するようにモデルを学習する。
• $(1+\varepsilon)$ の競合比を達成するための一般化境界とサンプル複雑性の保証を得るために、PAC学習フレームワークを活用する。
• 決定境界付近でのロバストネスを向上させるために、マージンに基づく分類器を学習プロセスに組み込むことで、高影響度領域における誤分類への感受性を低減する。
• 予測が敵対的であっても競合比が有界であるように保証することで、最悪ケースのロバストネスを組み込む。
• 数値シミュレーションにより理論的結果を検証し、次元数やノイズレベルの変動下で、標準的なブラックボックス機械学習手法と比較する。

実験結果

リサーチクエスチョン

• RQ1 オンラインアルゴリズムの競合比を向上させるために、機械学習アルゴリズムを再設計し、予測を特定の目的に適合させることは可能か？
• RQ2 競合比を損失関数に組み込むと、オンライン最適化におけるサンプル複雑性と一般化性能にどのような影響を与えるか？
• RQ3 機械学習の予測が誤りまたは敵対的であっても、最悪ケースのロバストネスをどの程度維持できるか？
• RQ4 オンラインアルゴリズム性能を最適化することを目的とした場合、学習して借りるアプローチは標準的な機械学習訓練を上回るか？
• RQ5 特徴次元数やデータノイズの変化に伴い、学習して借りるフレームワークの性能はどのように変化するか？

主な発見

• 学習して借りるフレームワークは、$\varepsilon$ に依存するサンプル複雑性を有しながら、$(1+\varepsilon)$ の競合比を達成し、標準的なオンラインアルゴリズムの最悪ケース境界 $\frac{e}{e-1}$ よりも顕著に改善される。
• 敵対的入力に対しても有界な競合比を維持するため、最悪ケースのロバストネスが保証される。
• 高次元特徴空間（$d=5000$）において、最適化に特化した領域に焦点を当てた本手法は、標準的なブラックボックス機械学習手法を上回る性能を示す。
• 学習プロセスに組み込まれたマージンベース分類器により、高影響度領域での誤差が低減され、全体的な性能が向上するが、全体の分類精度は低くてもよい。
• 最大40％のノイズを含むデータでも、学習して借りるアルゴリズムは $\frac{e}{e-1}$ よりも優れた競合比を維持し、強いロバストネスを示す。
• 理論的解析とシミュレーションの両方で、最適化に配慮した学習は、特に高次元において、標準的な機械学習訓練に比べてサンプル複雑性が低減されることを確認した。