[論文レビュー] Approximate Convex Optimization by Online Game Playing

Elad Hazan|ArXiv.org|Oct 19, 2006

Advanced Bandit Algorithms Research参考文献 33被引用数 11

ひとこと要約

本論文は、オンラインゲームプレーイングを用いた近似凸最適化のための新規フレームワークを導入し、厳密に凸な制約条件下で O(1/ε) の反復複雑度を達成した。これは標準的な O(1/ε²) の境界と比べて顕著に改善されたものである。この手法は勾配ステップと基本的な演算に依存しており、高価な二次計画問題の解法を回避し、最大エントロピー推定やポートフォリオ最適化などの問題に適用可能である。

ABSTRACT

Lagrangian relaxation and approximate optimization algorithms have received much attention in the last two decades. Typically, the running time of these methods to obtain a $ε$ approximate solution is proportional to $\frac{1}{ε^2}$. Recently, Bienstock and Iyengar, following Nesterov, gave an algorithm for fractional packing linear programs which runs in $\frac{1}ε$ iterations. The latter algorithm requires to solve a convex quadratic program every iteration - an optimization subroutine which dominates the theoretical running time. We give an algorithm for convex programs with strictly convex constraints which runs in time proportional to $\frac{1}ε$. The algorithm does NOT require to solve any quadratic program, but uses gradient steps and elementary operations only. Problems which have strictly convex constraints include maximum entropy frequency estimation, portfolio optimization with loss risk constraints, and various computational problems in signal processing. As a side product, we also obtain a simpler version of Bienstock and Iyengar's result for general linear programming, with similar running time. We derive these algorithms using a new framework for deriving convex optimization algorithms from online game playing algorithms, which may be of independent interest.

研究の動機と目的

• 厳密に凸な制約を伴う凸計画問題のための、より高速な近似アルゴリズムを開発し、標準的な O(1/ε²) の反復複雑度を改善すること。
• 各反復で凸二次計画問題を解く必要を排除することにより、先行手法で実行時間が支配的であった問題を回避すること。
• オンラインゲームプレーイングアルゴリズムから凸最適化アルゴリズムを導出する一般化可能なフレームワークを提供すること。その応用範囲は広範である可能性を有する。
• BienstockとIyengarの O(1/ε) アルゴリズムの簡素化された、より効率的なバージョンを提供すること。二次計画サブルーチンを必要としない。
• 計算のオーバーヘッドを低減することで、信号処理、ポートフォリオ最適化、周波数推定における近似凸最適化の実用的導入を可能にすること。

提案手法

• 変数 x ∈ P を選ぶプレイヤーと、制約重み p ∈ S_m を選ぶプレイヤーの2人によるオンラインゲームとして、凸可能性問題を定式化する。
• 双対ゲームにオンラインネットワーク戦略（ONS）アルゴリズムを適用し、勾配更新と一般化された射影を用いて実行可能性を維持する。
• 分離オракルを用いて ε 違反制約を検出することで、制約の完全評価なしに効率的な制約チェックを可能にする。
• 乗法的重みアルゴリズムをベースラインとして用い、O(1/ε²) の結果を導出することで、フレームワークの一般性を示す。
• オンライン凸最適化におけるレジーットの最小化に問題を還元し、レジーットの境界を近似誤差と直接結びつける。
• 対数バリア関数を用いた変換を導入し、元の問題をオンラインレジーット最小化に適した形に変換する。

実験結果

リサーチクエスチョン

• RQ1 オンラインゲームプレーイングアルゴリズムを体系的に用いて、反復複雑度が向上した凸最適化手法を導出することは可能か？
• RQ2 各反復で二次部分問題を解かずに、厳密に凸な制約付き計画問題に対して O(1/ε) の収束を達成することは可能か？
• RQ3 本フレームワークは、既存のラグランジュ緩和法やFrank-Wolfe風手法と比較して、反復回数と1反復あたりのコストの点でどのように差がつくか？
• RQ4 本フレームワークは単体を超えた一般の凸集合へ拡張可能か？また、実行時間にどのような影響を与えるか？
• RQ5 加法的近似から乗法的近似への還元は、標準的な変換のもとでも、改善された O(1/ε) 複雑度を保つのか？

主な発見

• 提案されたアルゴリズムは、G と D が勾配とドメインの境界であるとすると、厳密に凸な計画問題において Õ(nG D / ε) の反復で ε-近似解を達成する。
• 1反復あたりの実行時間は O(n² + T_proj + T_oracle) であり、T_proj は一般化射影のコストを表す。内点法を用いると最悪で O(n³) となる。
• 線形計画問題の場合、合計実行時間は Õ(n/ε · (nm + n² + n³)) = Õ(n⁴m / ε) となり、先行手法の O(1/ε²) の境界を上回る。
• 本フレームワークは、BienstockとIyengarのパッケージングおよびカバリング線形計画問題の O(1/ε) アルゴリズムの簡素化されたバージョンを導出する。二次計画サブルーチンを必要としない。
• 最大エントロピー推定やリスク制約付きポートフォリオ最適化といった、厳密に凸な制約を伴う問題において、O(1/ε) の収束を達成する。
• ONSアルゴリズムのレジーット境界により、Õ(nGD/(εω)) の反復後には、解が最適値から ε の範囲内に収束することが保証される。ここで ω はインスタンスの幅を表す。