[論文レビュー] Solving variational inequalities with Stochastic Mirror-Prox algorithm

Anatoli Juditsky, Arkadi Nemirovski+1 more|arXiv (Cornell University)|Sep 4, 2008

Optimization and Variational Analysis被引用数 7

ひとこと要約

本稿では、単調作用素を伴う確率的変分不等式を解くための確率的ミラー・プロックス（SMP）アルゴリズムを提案する。このアルゴリズムは、ミラー降下法と確率的オракルフィードバックを組み合わせており、理論的下界に一致する最適収束速度 $ O(1)\big(\frac{L}{t} + \frac{M + \sigma}{\sqrt{t}}\big) $ を達成する。また、大規模問題（例：確率的半正定値可解性や固有値最小化）において、ランダム化による計算コストの顕著な削減を示している。

ABSTRACT

In this paper we consider iterative methods for stochastic variational inequalities (s.v.i.) with monotone operators. Our basic assumption is that the operator possesses both smooth and nonsmooth components. Further, only noisy observations of the problem data are available. We develop a novel Stochastic Mirror-Prox (SMP) algorithm for solving s.v.i. and show that with the convenient stepsize strategy it attains the optimal rates of convergence with respect to the problem parameters. We apply the SMP algorithm to Stochastic composite minimization and describe particular applications to Stochastic Semidefinite Feasability problem and Eigenvalue minimization.

研究の動機と目的

• ノイズが混入したが不偏な観測のみが利用可能な場合に、単調作用素を伴う確率的変分不等式（s.v.i.）を効率的に解くための1次元アルゴリズムを開発すること。
• 決定的ミラー・プロックスアルゴリズムを確率的設定に拡張し、問題次元に依存しない最適な収束速度を維持すること。
• ランダム化によるSMPアルゴリズムが、大規模問題において決定的手法と比較して計算コストを顕著に削減できることを示すこと。
• 確率的オラクルにおけるリプシッツ連続性と有界ノイズという一般的な仮定の下で、収束速度と誤差バウンドに関する理論的保証を確立すること。
• SMPアルゴリズムを、確率的半正定値可解性や決定的固有値最小化といった実用的問題に適用し、その汎用性と効率性を示すこと。

提案手法

• SMPアルゴリズムは、作用素 $ F $ の近似として、分散が有界な不偏推定値 $ \Xi(z_i, \zeta_i) $ を返す2推定値の確率的オラクルを用いるミラー降下フレームワークに基づく。
• 強い凸性を持つ正則化子に基づくプロキシマルマッピングを採用することで、安定性と収束性を確保し、滑らかでない成分と滑らかな成分のバランスを最適化するようにステップサイズ戦略を調整する。
• ノイズの含まれた勾配推定値を用いた予測ステップと、プロキシマル更新による補正ステップを交互に繰り返すことで、確率的状態におけるエキストラグレディエント法を模倣する。
• 作用素のリプシッツ的挙動を $ \|\cdot\| $-ノルム下で定義するため、ノルムの双対ノルム $ \|\cdot\|_* $ を用いることが鍵となる。これにより誤差の定量的評価が可能になる。
• 各イテレーションにおけるデータエントリへのアクセスを一部に制限するランダムサンプリング戦略を組み込み、大規模設定においてサブリニア時間計算量を達成する。
• 理論的分析では、集中不等式とマルティングルの議論を用いて、期待誤差 $ \mathop{\rm Err}_{\rm vi}(z) $ のバウンドを導出し、最適な収束速度 $ O(1)\big(\frac{L}{t} + \frac{M + \sigma}{\sqrt{t}}\big) $ を得る。

実験結果

リサーチクエスチョン

• RQ1 ミラー・プロックスの確率的変種であるSMPアルゴリズムは、単調作用素を伴う確率的変分不等式に対して、最適な収束速度 $ O(1)\big(\frac{L}{t} + \frac{M + \sigma}{\sqrt{t}}\big) $ を達成できるか？
• RQ2 SMPアルゴリズムは高次元問題においても一様に最適な性能を維持できるか？次元の呪いを回避できるか？
• RQ3 オラクルおよびプロキシマル更新におけるランダム化は、大規模設定において決定的手法と比較して顕著な計算コスト削減をもたらすか？
• RQ4 大規模問題にSMPアルゴリズムを適用する際、精度、信頼水準、データアクセスコストの間にはどのようなトレードオフが生じるか？
• RQ5 SMPアルゴリズムは、確率的半正定値可解性や固有値最小化といった具体的な応用において、どのように性能を発揮するか？

主な発見

• SMPアルゴリズムは、確率的単調変分不等式の理論的下界に一致する最適収束速度 $ O(1)\big(\frac{L}{t} + \frac{M + \sigma}{\sqrt{t}}\big) $ を達成する。
• アルゴリズムの期待誤差は $ O(1)\big(\frac{L}{t} + \frac{M + \sigma}{\sqrt{t}}\big) $ として減少し、問題次元に依存しないため、大規模問題において一様な性能を発揮する。
• 確率的半正定値可解性や固有値最小化の問題に対して、SMPアルゴリズムは計算コストがサブリニアに増加する低複雑度の解法を提供する。
• 大規模問題に適用した場合、SMPアルゴリズムはデータエントリの僅かな割合（$ \vartheta = O(1)\big[k\nu^{-1} + \ln(1/\delta)\nu^{-2}\big]\big(\frac{1}{m} + \frac{1}{n}\big) $）しかアクセスしなくても、高い確率で所望の精度に到達する。
• 計算作業比 $ R = \mathcal{C}^{\rm DMP}/\mathcal{C}^{\rm SMP} $ は $ n/p $ が大きい場合に大きく増加し、SMPが高次元領域において決定的ミラー・プロックスを著しく上回ることを示している。
• $ k = \text{Ceil}\big(\frac{mp}{m+n}\big) $ の場合、SMPアルゴリズムはオラクルとプロキシマルマッピングのコストをバランスさせ、ステップごとのコストを $ k=1 $ と同等に保ちながら収束効率を向上させる。