[論文レビュー] Mirror version of similar triangles method for constrained optimization problems

Alexander Tyurin|arXiv (Cornell University)|May 27, 2017

Neural Networks and Applications被引用数 8

ひとこと要約

本稿では、制約付き凸最適化のための類似三角形法（ZMST）のミラー版を導入し、ミラー降下と元の類似三角形法に由来する適応的ステップサイズ更新を組み合わせた。滑らかな凸問題において、$ O(1/N^2) $ の最適収束速度を達成し、加速手法の最高水準のレートを達成している。また、ノイズのある勾配や確率的勾配を含む多様なオракルモデルにおいても、単純さと頑健性を維持している。

ABSTRACT

Science about optimization methods is rapidly developing today. In machine learning, computer vision, biology, medicine, construction and in many other different areas optimization methods have vast popularity and they appear as important tool. One of the most important goals in optimization: create some "universal" method, which will have good performance in all problems regardless smoothness of a task, computation precision of gradient and other parameters which characterize a problem. In this thesis we propose a method which is "universal" for different problems and, at the same time, is simple for understanding.

研究の動機と目的

• 非滑らかで、ノイズのある、確率的勾配を含む多様な設定においても良好に動作する、普遍的で単純かつ頑健な制約付き凸最適化手法の開発。
• 元の類似三角形法をミラー降下フレームワークに拡張し、より良い収束特性と異なる問題構造への適応性を実現すること。
• $(\rho, L)$-オラクルおよび確率的オラクル設定を含む、さまざまなオラクルモデルにおける最適収束レートの確立を図り、理論的保証を維持すること。
• 滑らかさや強凸性に関する事前知識がなくても、勾配誤差やノイズのある評価がある状況でも、手法の頑健性と適応性を示すこと。
• ミニマックス問題、確率的最適化、適応的設定へと一般化可能な統一フレームワークを提供し、機械学習およびオペレーションズ・リサーチ分野における応用性を高めること。

提案手法

• プロキシ関数 $ d(x) $ を用いたミラー降下フレームワークを採用し、Bregman散発 $ V(x,y) = d(x) - d(y) - \langle \nabla d(y), x - y \rangle $ を定義することで、強い凸性と安定性を保証する。
• Lipschitz定数 $ L $ に応じて動的に調整される適応的ステップサイズ $ \alpha_{k+1} = \frac{1}{2L} + \sqrt{\frac{1}{4L^2} + \alpha_k^2} $ を導入し、高速収束を実現する。
• 本アルゴリズムは三つの列挙列を維持する：$ x_k $（反復点）、$ u_k $（ミラー反復点）、$ y_k $（集約探索点）。$ x_{k+1} $ は $ u_{k+1} $ と $ x_k $ の凸結合として計算される。
• 各ステップで、$ u_{k+1} = \arg\min_{x \in Q} \phi_{k+1}(x) $ という部分問題を解く。ここで $ \phi_{k+1}(x) = V(x, u_k) + \alpha_{k+1}[f(y_{k+1}) + \langle \nabla f(y_{k+1}), x - y_{k+1} \rangle] $ であり、Bregman散発と線形化された目的関数を組み合わせる。
• 収束速度を駆動する累積重み $ A_k = \sum_{i=0}^{k} \alpha_i $ を用い、収束証明における和の操作を可能にする。
• ノイズのあるオラクル、$(\delta, L)$-オラクル、確率的オラクル、適応的設定に対応するためのフレームワークの拡張を行い、不確実性下でも収束保証を維持する。

実験結果

リサーチクエスチョン

• RQ1 ミラー降下に基づく類似三角形法の変種は、標準的な仮定の下で滑らかな凸最適化において、最適な $ O(1/N^2) $ 収束速度を達成できるか？
• RQ2 提案された ZMST 法は、ノイズのある勾配オラクルや確率的勾配オラクルの下でどのように動作するか？また、$ L $ の事前知識がなくても収束を維持できるか？
• RQ3 この手法はミニマックス問題に適応可能であり、最小限の変更で最適収束速度を達成できるか？
• RQ4 適応的ステップサイズルール $ \alpha_{k+1} = \frac{1}{2L} + \sqrt{\frac{1}{4L^2} + \alpha_k^2} $ は、高速収束を達成するために果たす役割は何か？
• RQ5 勾配蓄積を用いた元の類似三角形法と比較して、ミラー構造は安定性と収束性をどのように向上させるか？

主な発見

• ZMST 法は、最適な収束速度 $ f(x_N) - f(x_*) \leq \frac{4LR^2}{(N+1)^2} $ を達成し、加速型の一次最適化手法における最高水準のレートと一致する。
• ノイズのある勾配オラクル下でも、理論的保証が維持される形で安定的かつ収束的である。$(\delta, L)$-オラクルおよび確率的オラクルモデル下でも同様の保証が成立する。
• 列挙 $ u_k $ は有界であり、$ V(x_*, u_N) \leq R^2 $ を満たす。これにより、反復点がコンパクト集合内に留まり、収束性と安定性が保証される。
• 列挙 $ x_k $ はほとんど確実に有界であり、$ \|x_* - x_k\|^2 \leq 2R^2 $ を満たす。これは反復点が発散せず、最適解に近い位置に留まることを示している。
• 勾配誤差に対して頑健であり、$ L $ の事前知識がなくても動作する。適応的および確率的設定下での性能が示されている。
• 収束証明は、Bregman散発と累積重み $ A_k $ を用いたテレスコピック和の議論に依拠しており、双対ギャップと目的関数の部分最適性をきめ細かく制御できる。