[論文レビュー] Chasing Convex Bodies and Functions with Black-Box Advice

Nicolas Christianson, Tinashe Handina+1 more|arXiv (Cornell University)|Jun 23, 2022

Advanced Bandit Algorithms Research被引用数 8

ひとこと要約

本稿では、ブラックボックスのアドバイスを用いて一貫性とロバストネスの間で調整可能な、凸関数チョーシング（CFC）のための2つの新しい学習補助アルゴリズム、Interp および BdInterp を提案する。問題の凸性を活用することで、BdInterp は α-多面体関数に対して (1+ε)-一貫性と O(D/ε)-ロバストネスを達成し、先行研究の境界を著しく改善する。

ABSTRACT

We consider the problem of convex function chasing with black-box advice, where an online decision-maker aims to minimize the total cost of making and switching between decisions in a normed vector space, aided by black-box advice such as the decisions of a machine-learned algorithm. The decision-maker seeks cost comparable to the advice when it performs well, known as $ extit{consistency}$, while also ensuring worst-case $ extit{robustness}$ even when the advice is adversarial. We first consider the common paradigm of algorithms that switch between the decisions of the advice and a competitive algorithm, showing that no algorithm in this class can improve upon 3-consistency while staying robust. We then propose two novel algorithms that bypass this limitation by exploiting the problem's convexity. The first, INTERP, achieves $(\sqrt{2}+ε)$-consistency and $\mathcal{O}(\frac{C}{ε^2})$-robustness for any $ε> 0$, where $C$ is the competitive ratio of an algorithm for convex function chasing or a subclass thereof. The second, BDINTERP, achieves $(1+ε)$-consistency and $\mathcal{O}(\frac{CD}ε)$-robustness when the problem has bounded diameter $D$. Further, we show that BDINTERP achieves near-optimal consistency-robustness trade-off for the special case where cost functions are $α$-polyhedral.

研究の動機と目的

• 機械学習で得たアドバイスと最悪ケースのロバストネス保証を組み合わせたオンラインアルゴリズムの設計。
• アドバイスとロバストベースラインの間を切り替える従来のアドバイス補助アルゴリズムが抱える 3-一貫性の壁を克服すること。
• 意思決定空間における凸性を活用することで、近似的に最適な一貫性-ロバストネスのトレードオフを達成すること。
• アドバイスの品質と問題の幾何構造に応じて滑らかにスケーリングするパラメータチューニング可能な性能境界の提供。
• 学習補助オンラインアルゴリズムを、保証付きの性能を有するより広範な CFC および CBC の設定へと拡張すること。

提案手法

• パrameter化された凸結合を用いて、ブラックボックスのアドバイスとロバストベースラインアルゴリズムの間を補間するメタアルゴリズムである Interp を提案する。
• 最適な意思決定からの距離に基づき、アドバイスとロバスト戦略の間で動的に調整するバイコンpetitiveなメタアルゴリズムである BdInterp を導入する。
• 同時にアドバイスと最悪ケース最適シーケンスに対する性能を束縛するバイコンペティティブフレームワークを採用する。
• 特に有界直径の設定において、凸集合およびノルムの幾何的性質を活用してタイトな競合比を導出する。
• 一貫性とロバストネスのバランスを取るためにパラメータ γ と δ を最適化し、(1+ε)-一貫性と O(D/ε)-ロバストネスを達成する。
• 既知の競合比を持つアルゴリズム（例：関数的ステイナー点、グリーディ OBD）を、メタアルゴリズム内のロバストコンponentsとして適用する。

実験結果

リサーチクエスチョン

• RQ1 機械学習で得たアドバイスに近い一貫性を達成しながらも、最悪ケースのロバストネスを保証する学習補助アルゴリズムを設計できるか？
• RQ2 アドバイス補助 CFC において、スイッチングベースのアルゴリズムが抱える 3-一貫性の限界を超えることは可能か？
• RQ3 凸性を活用することで、一般のブラックボックスアドバイス手法よりも優れた一貫性-ロバストネスのトレードオフを達成できるか？
• RQ4 有界直径コスト関数を伴う CFC における一貫性とロバストネスの最適なトレードオフは何か？
• RQ5 提案されたアルゴリズムは、α-多面体や k-CBC のような構造的サブクラスにおいてどのように動作するか？

主な発見

• BdInterp は α-多面体関数に対して (1+ε)-一貫性と O(D/ε)-ロバストネスを達成し、先行研究の O(1/ε²) のロバストネス境界を著しく改善する。
• 一般の CFC および CBC に対しては、BdInterp は d 次元空間において任意のノルムを用い、(1+ε)-一貫性と O(dD/ε)-ロバストネスを達成する。
• Interp は (√2+ε)-一貫性と O(C/ε²)-ロバストネスを達成し、C は下位のロバストアルゴリズムの競合比を表す。
• k-CBC においては、BdInterp は (1+ε)-一貫性と O(kD/ε)-ロバストネスを達成し、アクティブサブスペースの次元と一致する。
• ℓ² 空間上での α-CFC に対して、BdInterp は (1+ε)-一貫性と O(D/(α¹ᐟ²ε))-ロバストネスを達成し、O(1/(α¹ᐟ²ε²)) の境界を改善する。
• BdInterp の最適なパrameterチューニングにより、D が未知であっても (1+ε) 一貫性と O(D/ε) ロバストネスが達成可能である。