[論文レビュー] How the Experts Algorithm Can Help Solve LPs Online

Anupam Gupta, Marco Molinaro|arXiv (Cornell University)|Jan 1, 2014

Optimization and Search Problems参考文献 19被引用数 3

ひとこと要約

本稿では、ランダム順序モデルにおける混合パッキング／カバー線形計画問題（LP）に対して、ブラックボックス的にエキスパートアルゴリズムを用いて双対解を構築する、プライマル・デュアルなオンラインアルゴリズムを提示する。この手法により、(1−ε)-近似保証を達成する。主な貢献は、レジーロス最小化、マルティングル・濃縮、最大不等式を用いて、カバー制約が存在する中でも、最適な Ω(ε⁻² log m) 右辺項スケーリング要件を達成することにある。これにより、高い確率で整数解が得られる、効率的なオンラインLP解法が可能になる。

ABSTRACT

We consider the problem of solving packing/covering LPs online, when the columns of the constraint matrix are presented in random order. This problem has received much attention: the main open question is to figure out how large the right-hand sides of the LPs have to be (compared to the entries on the left-hand side of the constraint) to get (1 + <em>ε</em>)-approximations online? It is known that the RHS has to be Ω(<em>ε</em> − 2 log<em>m</em>) times the left-hand sides, where <em>m</em> is the number of constraints. In this paper we show how to achieve this bound for all packing LPs, and also for a wide class of mixed packing/covering LPs. Our algorithms construct dual solutions using a regret-minimizing online learning algorithm in a black-box fashion, and use them to construct primal solutions. The adversarial guarantee that holds for the constructed duals help us to take care of most of the correlations that arise in the algorithm; the remaining correlations are handled via martingale concentration and maximal inequalities. These ideas lead to conceptually simple and modular algorithms, which we hope will be useful in other contexts.

研究の動機と目的

• ランダム順序モデル下での混合パッキング／カバーLPに対する、証明可能な (1−ε)-近似保証を提供することで、オンラインLPアルゴリズムのギャップを埋める。
• 左辺係数に対して相対的に、最適な右辺項（RHS）スケーリング Ω(ε⁻² log m) を達成すること。これは既知の下界と一致する。
• レジーロス最小化によるオンライン学習をブラックボックス的に用いることで、整数解を構築するモジュラーで概念的に単純なアルゴリズムを開発すること。
• 従来の研究がi.i.d.モデルですら保証を欠いていたオンライン設定におけるカバー制約の取り扱いの課題に対処すること。
• オフラインLPの解法を一切行わず、オンラインでの列到着と動的最適値推定のみを用いて、実用的なオンラインLP解法を可能にすること。

提案手法

• エキスパートアルゴリズムをブラックボックス的に用いて、レジーロスを最小化する双対解を生成し、双対の実行可能性と強い双対性に類似した性質を保証する。
• 高価値アイテムと、残りのLPに対してスクリーニング操作を適用した解を組み合わせることでプライマル解を構築し、しきい値機構を用いる。
• オンライン意思決定と双対更新に起因する相関を制御するために、マルティングル・濃縮と最大不等式を用いる。
• 倍増時間更新を用いて、最適LP値を動的かつ適応的に推定する、修正版ワンタイム学習（mOTL）および動的学習（mDLA）アルゴリズムを導入する。
• LPを一般化された幅 Ω(ε⁻² log m) を持つより小さなインスタンスに縮小するためにスクリーニング操作を適用し、LPviaLBアルゴリズムにより (1−ε)-近似を達成する。
• LPの安定性仮定を用いて、オンライン価値推定における分散を制御し、ランダム順序到着下でも信頼性の高い近似を保証する。

実験結果

リサーチクエスチョン

• RQ1 混合パッキング／カバーLPに対して、ランダム順序モデル下で最適なRHSスケーリングを達成する、プライマル・デュアルなオンラインアルゴリズムが (1−ε)-近似を達成できるか。
• RQ2 カバー制約を含むオンラインLPにおいて、保証付きの性能を達成することは可能か。特に、従来の研究がパッキングのみまたはi.i.d.設定に限られていた状況において。
• RQ3 エキスパートアルゴリズムのようなオンライン学習技術をどのように用いて、プライマルの実行可能性と価値近似を保証する双対解を構築できるか。
• RQ4 ランダム順序モデル下で (1−ε)-近似を達成するための最小RHSスケーリングは何か。また、実用的なオンラインアルゴリズムでこれを達成できるか。
• RQ5 オフラインLPを解かずに最適値をオンラインで推定することは可能か。また、その推定が安定的かつ正確であるための条件は何か。

主な発見

• RHSが各行の最大係数の Ω(log(m/δ)/ε²) 倍以上であれば、アルゴリズム LPviaLB は、確率 1−δ 以上でオフライン最適値の (1−ε)-近似を得る。
• 同じRHSスケーリングおよび安定性仮定の下で、アルゴリズム DLA は、確率 1−δ 以上で ε-実行可能解を提供し、その値は最適オフライン値の (1−ε) 倍以上である。
• 修正版動的学習に基づくアルゴリズム mDLA は、確率 1−c₇δ log ε⁻¹ 以上のイベント E において、期待値が (1−c₈δ log ε⁻¹)opt(L) 以上の解を保証する。高確率での実行可能性が確保される。
• 本稿では、ランダム順序モデル下で (1−ε)-近似を達成するための Ω(ε⁻² log m) のRHSスケーリングが、必要かつ十分であることを確立している。これは既知の下界と一致する。
• LPにおける安定性の仮定により、オンライン価値推定における分散が有界に保たれ、最適値の事前知識がなくても信頼性の高い近似が可能になる。
• 本手法はモジュラーかつ効率的であり、オフラインLPの解法を回避し、最適な分数解に匹敵する整数解を生成する。