[論文レビュー] Augmented Lagrangian based first-order methods for convex-constrained programs with weakly-convex objective

Zichong Li, Yangyang Xu|arXiv (Cornell University)|Mar 19, 2020

Advanced Optimization Algorithms Research参考文献 25被引用数 7

ひとこと要約

本稿では、弱凸目的関数を伴う凸制約付き最適化問題を解くために、不正確な増大ラグランジュ法（iALM）と二次ペナルティ法を組み合わせた新規なハイブリッド第一順位法を提案する。近似プロキシマルポイント反復と、ペナルティ部分問題におけるiALMと交互に繰り返すことで、ε-KKT点を求めるための最適な反復複雑度 $O(\varepsilon^{-5/2} |\log \varepsilon|)$ を達成し、理論的および実践的において既存手法を上回る性能を示す。

ABSTRACT

First-order methods (FOMs) have been widely used for solving large-scale problems. A majority of existing works focus on problems without constraint or with simple constraints. Several recent works have studied FOMs for problems with complicated functional constraints. In this paper, we design a novel augmented Lagrangian (AL) based FOM for solving problems with non-convex objective and convex constraint functions. The new method follows the framework of the proximal point (PP) method. On approximately solving PP subproblems, it mixes the usage of the inexact AL method (iALM) and the quadratic penalty method, while the latter is always fed with estimated multipliers by the iALM. We show a complexity result of $O(\varepsilon^{-\frac{5}{2}}|\log\varepsilon|)$ for the proposed method to achieve an $\varepsilon$-KKT point. This is the best known result. Theoretically, the hybrid method has lower iteration-complexity requirement than its counterpart that only uses iALM to solve PP subproblems, and numerically, it can perform significantly better than a pure-penalty-based method. Numerical experiments are conducted on nonconvex linearly constrained quadratic programs and nonconvex QCQP. The numerical results demonstrate the efficiency of the proposed methods over existing ones.

研究の動機と目的

• 大規模な凸制約付き最適化問題を、弱凸（非凸）目的関数を伴って第一順位法で解く課題に対処すること。
• 関数的制約を伴う非凸問題に対する、従来の増大ラグランジュに基づく第一順位法の反復複雑度を改善すること。
• プロキシマルポイント部分問題を解く際に、iALMの安定性とペナルティ法の効率性を組み合わせたハイブリッドアルゴリズムを設計すること。
• 弱凸性の仮定の下で、ε-KKT点を達成する非平均的反復複雑度境界を確立すること。
• 非凸線形制約付き二次計画問題において、ハイブリッド法が純粋ペナルティ法や純粋iALMに基づく手法と比べて著しく優れていることを数値的に示すこと。

提案手法

• 本手法は、各部分問題を近似的に解くハイブリッド戦略を用いるプロキシマルポイント（PP）フレームワークに従う。
• 各PP部分問題において、不正確な増大ラグランジュ法（iALM）と二次ペナルティ法を交互に実行し、iALMがペナルティ部分問題の推定双対乗数を提供する。
• ペナルティ部分問題は、iALMから得た推定乗数を用いて解かれ、純粋ペナルティ法に比べてより良好な収束特性を示す。
• ペナルティパラメータとステップサイズを適応的に調整するため、パラメータ $L_{\min}, \gamma_1, \gamma_2$ を用いたラインサーチ戦略を採用する。
• 非凸的かつおそらく非滑らかである可能性のある目的関数を扱いながらも、凸制約と制約関数の弱凸性を維持するように設計されている。
• 収束解析は、不実行性と最適性ギャップのバウンディングに基づき、ε-KKT点の許容誤差に関する非平均的複雑度境界を導出する。

実験結果

リサーチクエスチョン

• RQ1 iALMとペナルティ法を組み合わせたハイブリッド第一順位法は、弱凸制約付き問題において、純粋iALM法や純粋ペナルティ法よりも優れた反復複雑度を達成できるか？
• RQ2 弱凸目的関数を伴う凸制約付き問題において、ε-KKT点を達成するための最適な非平均的反復複雑度は何か？
• RQ3 実際の問題において、ハイブリッド法は純粋ペナルティ法や純粋iALMに基づく手法と比べてどのように性能を発揮するか？
• RQ4 パラメータ $L_{\min}, \gamma_1, \gamma_2$ の選択に敏感か？
• RQ5 大規模問題において、低コストの反復を維持しつつ、優れたグローバル収束速度を達成できるか？

主な発見

• 提案手法は、ε-KKT点を求める反復複雑度が $O(\varepsilon^{-5/2} |\log \varepsilon|)$ に達し、これまでに得られた最良の結果である。
• ハイブリッド法は、部分問題の条件数が改善されているため、純粋iALMに基づく手法よりも反復複雑度が低くなる。
• 非凸線形制約付き二次計画問題における数値実験では、目的関数評価および勾配評価の観点で、純粋ペナルティ法に基づく手法よりも著しく優れた性能を示した。
• ハイパーパラメータの選択に対して頑健であり、$L_{\min}, \gamma_1, \gamma_2$ の異なる設定間で性能の差は同数量級内に収束する。
• 27通りのパラメータ設定の平均で、$\varepsilon = 10^{-3}$ の場合、目的関数評価回数は約116万回であり、実行可能性と最適性の残差はいずれも $10^{-3}$ 未満であった。
• アルゴリズムは反復全体を通して実行可能性を維持しており、与えられた許容誤差下で、プライマル不実行性と双対不実行性の両方がほぼゼロに収束した。