[論文レビュー] Geometry of Online Packing Linear Programs

Marco Molinaro, R. Ravi|arXiv (Cornell University)|Apr 26, 2012

Optimization and Search Problems参考文献 23被引用数 6

ひとこと要約

本稿では、ランダムな列順序で線形計画問題をパッケージングするための新しいオンラインアルゴリズム、Robust DPA を提示する。右辺 B が Ω(m²/ε² log(m/ε)) のとき、(1−ε)-競合比を達成する。従来の研究と比較して、列数 n に依存する程度を顕著に低減している。この手法は、PAC学習にインspiredされた線形分類と、制約ベクトルの1次元部分空間に基づく洗練された幾何的被覆議論を組み合わせており、反復的・適応的学習フェーズにより、よりタイトな境界を実現する。

ABSTRACT

We consider packing LP's with $m$ rows where all constraint coefficients are normalized to be in the unit interval. The n columns arrive in random order and the goal is to set the corresponding decision variables irrevocably when they arrive so as to obtain a feasible solution maximizing the expected reward. Previous (1 - ε)-competitive algorithms require the right-hand side of the LP to be Omega((m/ε^2) log (n/ε)), a bound that worsens with the number of columns and rows. However, the dependence on the number of columns is not required in the single-row case and known lower bounds for the general case are also independent of n. Our goal is to understand whether the dependence on n is required in the multi-row case, making it fundamentally harder than the single-row version. We refute this by exhibiting an algorithm which is (1 - ε)-competitive as long as the right-hand sides are Omega((m^2/ε^2) log (m/ε)). Our techniques refine previous PAC-learning based approaches which interpret the online decisions as linear classifications of the columns based on sampled dual prices. The key ingredient of our improvement comes from a non-standard covering argument together with the realization that only when the columns of the LP belong to few 1-d subspaces we can obtain small such covers; bounding the size of the cover constructed also relies on the geometry of linear classifiers. General packing LP's are handled by perturbing the input columns, which can be seen as making the learning problem more robust.

研究の動機と目的

• 単一行と複数行のオンラインパッケージングLPのギャップを埋め、競合比保証における列数 n への依存を排除すること。
• n に依存しない右辺の境界のもとで (1−ε)-競合性を達成するアルゴリズムの開発。従来の O(m/ε² log n/ε) の要件を改善すること。
• 既存の境界における n 依存性が、複数行ケースが単一行情報よりも根本的に難しい要因であるかどうかを解明すること。
• 制約ベクトルの幾何的構造、特に低次元部分空間への配置を組み込むことで、PAC学習に基づくオンラインアルゴリズムを洗練すること。

提案手法

• 列を対数サイズのフェーズに分け、以前の列を用いて分類し、後の列の意思決定を設定するオンラインアルゴリズムである Robust DPA を導入する。
• 入力列の一般位置を保証するための摂動ステップを採用し、ロバストな学習と分類を可能にする。
• 2s 個の列からなるサンプリングされたLPを解く修正版 (s,δ)-OTPサブルーチンを用い、次に s 個の列の変数をデュアル価格を用いて設定する。
• 制約ベクトル a^t を含む1次元部分空間の数に基づく非標準的な幾何的被覆議論を適用し、分類問題の複雑さを制限する。
• 線形分類器の幾何的性質を活用して一般化誤差を制御し、各フェーズにおける誤分類列数が小さく保たれることを保証する。
• 各フェーズで訓練セットサイズを増加させることで競合比をタイトにする（ε2^i n から ε2^{i+1}n へ）。これにより、より良い一般化性能と ε 依存性の低減が達成される。

実験結果

リサーチクエスチョン

• RQ1 複数行のオンラインパッケージングLPにおいて、(1−ε)-競合性を達成するための右辺要件における列数 n への依存を、根本的に排除できるか？
• RQ2 既存の境界における n 依存性が、複数行情報が単一行情報よりも根本的に難しい要因であるとされる根拠はあるか？
• RQ3 幾何的構造、特に制約ベクトルを含む1次元部分空間の数を活用することで、学習ベースのオンラインアルゴリズムを改善できるか？
• RQ4 幾何的洞察を組み込むことで、PAC学習技術をどの程度洗練させ、LPの列に対するオンライン線形分類の誤差を低減できるか？

主な発見

• 右辺 B が Ω(m²/ε² log(m/ε)) のとき、アルゴリズム Robust DPA はオンラインパッケージングLPにおいて (1−50ε)-競合比を達成する。
• B の要件における列数 n への依存が排除され、従来の O(m/ε² log n/ε) の境界よりも改善されている。
• 主な改善は、制約ベクトルを含む1次元部分空間の数に基づく洗練された幾何的被覆議論に起因し、学習問題の複雑さを制限している。
• 訓練セットサイズが指数関数的に増加する反復的・適応的学習フェーズを用いることで、よりタイトな一般化境界が得られ、ε 敏感性が低減する。
• 解析により、すべてのフェーズにおける誤差が相殺され、O(ε·OPT) で有界であることが示され、提示された B 条件のもとで (1−ε)-競合解が得られる。