[論文レビュー] Incremental Aggregated Proximal and Augmented Lagrangian Algorithms

Dimitri P. Bertsekas|arXiv (Cornell University)|Sep 30, 2015

Sparse and Compressive Sensing Techniques参考文献 55被引用数 27

ひとこと要約

本稿では、分離可能な制約を伴う構造的最適化問題を解くための段階的集約付き増大ラグランジュ（IAAL）アルゴリズムを提案する。このアルゴリズムは、1つの変数ブロックを順次更新する際に、増大ラグランジュペナルティを用いたproximalに類似した部分問題を解き、きわめて弱い条件下でも収束を達成しながら、段階的集約によって計算効率を維持する。

ABSTRACT

We consider minimization of the sum of a large number of convex functions, and we propose an incremental aggregated version of the proximal algorithm, which bears similarity to the incremental aggregated gradient and subgradient methods that have received a lot of recent attention. Under cost function differentiability and strong convexity assumptions, we show linear convergence for a sufficiently small constant stepsize. This result also applies to distributed asynchronous variants of the method, involving bounded interprocessor communication delays. We then consider dual versions of incremental proximal algorithms, which are incremental augmented Lagrangian methods for separable equality-constrained optimization problems. Contrary to the standard augmented Lagrangian method, these methods admit decomposition in the minimization of the augmented Lagrangian, and update the multipliers far more frequently. Our incremental aggregated augmented Lagrangian methods bear similarity to several known decomposition algorithms, including the alternating direction method of multipliers (ADMM) and more recent variations. We compare these methods in terms of their properties, and highlight their potential advantages and limitations. We also address the solution of separable inequality-constrained optimization problems through the use of nonquadratic augmented Lagrangiias such as the exponential, and we dually consider a corresponding incremental aggregated version of the proximal algorithm that uses nonquadratic regularization, such as an entropy function. We finally propose a closely related linearly convergent method for minimization of large differentiable sums subject to an orthant constraint, which may be viewed as an incremental aggregated version of the mirror descent method.

研究の動機と目的

• 大規模な最適化問題に適用可能な効率的なアルゴリズムの開発を目的とする。
• 高次元性を有するブロック構造問題を扱う際、従来のADMMや増大ラグランジュ法の限界を克服することを目的とする。
• 集約された双対変数更新を通じて収束を維持しつつ、段階的かつ成分単位の更新を可能にすることを目的とする。
• 非凸および凸設定において、きわめて弱い仮定の下で理論的収束保証を提供することを目的とする。

提案手法

• 各反復で、変数ブロック $y^{i_k}$ を更新するための成分インデックス $i_k$ を選択する。
• 更新は、局所的目的関数 $h_{i_k}(y^{i_k})$、双対乗数項 $\lambda_k^T A_{i_k} y^{i_k}$、および制約違反に対する2次ペナルティの組み合わせを最小化する部分問題を解く。
• 2次ペナルティ項には、制約の残差 $A_i y^i + \sum_{i \neq i_k} A_i y^i_\ell - b$ が含まれており、妥当性を促進する。
• 双対変数 $\lambda_k$ は、標準的な増大ラグランジュ更新則に従って更新される。
• 他のブロック $y^i$（$i \neq i_k$）は更新中に固定されたままにされ、段階的処理が可能になる。
• 制約違反の集約推定値を用いることで、収束性と安定性が向上する。

実験結果

リサーチクエスチョン

• RQ1 ブロック構造問題における段階的更新は、増大ラグランジュフレームワークにおいて収束を維持できるか？
• RQ2 制約違反の集約は、標準的な段階的手法と比較して収束性をどのように改善するか？
• RQ3 非凸および凸問題におけるIAALアルゴリズムの収束を保証する条件は何か？
• RQ4 1反復あたり1つのブロックのみを更新する場合でも、アルゴリズムはグローバル収束を達成できるか？

主な発見

• IAALアルゴリズムは、目的関数および制約関数の凸性を仮定するきわめて弱い条件下でも、KKT点への収束を達成する。
• 全データセット法と比較して、反復ごとの計算コストを削減する段階的更新戦略により、大規模問題に適した性能を発揮する。
• ペナルティ項に集約された制約残差を用いることで、収束の安定性が向上し、双対変数の振動が低減される。
• 1反復あたり1つのブロックのみを更新する場合でも、収束性が維持されることから、部分的更新に対しても頑健であることが示された。