[論文レビュー] On Landscape of Lagrangian Functions and Stochastic Search for Constrained Nonconvex Optimization

Zhehui Chen, Xingguo Li+3 more|arXiv (Cornell University)|Jun 13, 2018

Sparse and Compressive Sensing Techniques参考文献 29被引用数 5

ひとこと要約

本稿は、安定および不安定な均衡のみを示す、制約付き非凸最適化のための新しいラグランジアン関数のクラスを導入し、安定な均衡がグローバル最適解に対応することを示している。また、拡散近似を用いた最初のサンプル複雑度結果を確立する、オンライン一般化固有値問題のための確率的プライマル・デュアルアルゴリズムを提案している。

ABSTRACT

We study constrained nonconvex optimization problems in machine learning, signal processing, and stochastic control. It is well-known that these problems can be rewritten to a minimax problem in a Lagrangian form. However, due to the lack of convexity, their landscape is not well understood and how to find the stable equilibria of the Lagrangian function is still unknown. To bridge the gap, we study the landscape of the Lagrangian function. Further, we define a special class of Lagrangian functions. They enjoy two properties: 1.Equilibria are either stable or unstable (Formal definition in Section 2); 2.Stable equilibria correspond to the global optima of the original problem. We show that a generalized eigenvalue (GEV) problem, including canonical correlation analysis and other problems, belongs to the class. Specifically, we characterize its stable and unstable equilibria by leveraging an invariant group and symmetric property (more details in Section 3). Motivated by these neat geometric structures, we propose a simple, efficient, and stochastic primal-dual algorithm solving the online GEV problem. Theoretically, we provide sufficient conditions, based on which we establish an asymptotic convergence rate and obtain the first sample complexity result for the online GEV problem by diffusion approximations, which are widely used in applied probability and stochastic control. Numerical results are provided to support our theory.

研究の動機と目的

• 非凸最適化におけるラグランジアン関数の局所的性質を理解すること。ここで、凸性は成立せず、均衡点の性質も十分に理解されていない。
• 安定および不安定な均衡のみを有する特別なラグランジアン関数のクラスを定義し、安定な均衡がグローバル最適解に対応することを保証すること。
• オンライン一般化固有値問題を解くための効率的で確率的なプライマル・デュアルアルゴリズムを開発すること。
• オンライン一般化固有値問題における、拡散近似を用いた最初のサンプル複雑度結果を確立すること。

提案手法

• 均衡点が厳密に安定または不安定であるラグランジアン関数のクラスを定義し、安定な点が元の制約付き問題のグローバル最適解に対応することを保証する。
• 不変群および対称性の性質を活用して、一般化固有値問題における安定および不安定な均衡点を特徴付ける。
• 不安定な均衡点を脱出できるようにノイズを注入するプライマル・デュアル更新を交互に実行する確率的プライマル・デュアルアルゴリズムを提案する。
• 拡散近似を用いて、オンラインアルゴリズムの漸近的収束速度およびサンプル複雑度の上限を導出する。
• 伊藤微積分と伊藤等長性を用いて、アルゴリズムの状態変数の確率的ダイナミクスを分析する。
• マルコフ不等式および指数的尾部推定を用いて、グローバル最適解への収束に関する確率的境界を確立する。

実験結果

リサーチクエスチョン

• RQ1 非凸制約最適化におけるラグランジアン関数の局所的性質は、鞍点行動を越えて特徴付け可能か？
• RQ2 安定な均衡がグローバル最適解に保証されるようなラグランジアン関数のクラスは存在するか？
• RQ3 確率的プライマル・デュアル更新下でのオンライン一般化固有値問題のサンプル複雑度は何か？
• RQ4 拡散近似を用いて、この非凸設定において収束速度およびサンプル複雑度の上限を導出可能か？
• RQ5 問題の幾何学的および対称性の性質は、確率的プライマル・デュアルアルゴリズムの収束挙動にどのように影響するか？

主な発見

• 提案されたラグランジアン関数のクラスにより、すべての安定な均衡点が元の制約付き問題のグローバル最適解に対応することが保証される。
• 一般化固有値問題において、群不変性および対称的構造を用いて、安定および不安定な均衡点が完全に特徴付けられる。
• 確率的プライマル・デュアルアルゴリズムは、サンプル複雑度 $ N \asymp \frac{\phi \cdot \mu_{\text{max}}/\mu_{\text{min}}}{\epsilon \cdot \mu_{1} \cdot \mu_{\text{min}} \cdot \text{gap}^2} \log\left(\frac{\phi}{\epsilon \cdot \mu_{\text{min}} \cdot \text{gap}}\right) $ を有する漸近的収束を達成し、オンラインGEVにおける最初の結果である。
• 高確率 $ \geq \frac{5}{8} $ で、$ T \asymp \frac{\mu_{\text{max}}/\mu_{\text{min}}}{\mu_{1} \cdot \text{gap}} \log(\eta^{-1}) $ 回の反復内で $ \epsilon $-最適解に収束する。
• 理論的分析により、負の曲率のおかげで不安定な均衡点からの脱出が効率的に行われることが確認され、状態の進化に関する確率的境界で裏付けられている。
• 数値実験により、理論的収束速度およびサンプル複雑度が妥当であることが検証され、オンライン一般化固有値問題において堅牢な性能を示している。