[논문 리뷰] Incremental Aggregated Proximal and Augmented Lagrangian Algorithms

Dimitri P. Bertsekas|arXiv (Cornell University)|2015. 09. 30.

Sparse and Compressive Sensing Techniques참고 문헌 55인용 수 27

한 줄 요약

이 논문은 분리 가능한 제약 조건을 가진 구조적 최적화 문제를 해결하기 위해 증분 집계 보정 라그랑주 승수(IAAL) 알고리즘을 제안한다. 이 알고리즘은 증분 집계를 통해 계산 효율성을 유지하면서도, 약간의 조건 하에서 수렴성을 확보하는 보정 라그랑주 페널티를 갖는 프록시 유사 부분문제를 사용해 한 번에 한 블록의 변수만 갱신한다.

ABSTRACT

We consider minimization of the sum of a large number of convex functions, and we propose an incremental aggregated version of the proximal algorithm, which bears similarity to the incremental aggregated gradient and subgradient methods that have received a lot of recent attention. Under cost function differentiability and strong convexity assumptions, we show linear convergence for a sufficiently small constant stepsize. This result also applies to distributed asynchronous variants of the method, involving bounded interprocessor communication delays. We then consider dual versions of incremental proximal algorithms, which are incremental augmented Lagrangian methods for separable equality-constrained optimization problems. Contrary to the standard augmented Lagrangian method, these methods admit decomposition in the minimization of the augmented Lagrangian, and update the multipliers far more frequently. Our incremental aggregated augmented Lagrangian methods bear similarity to several known decomposition algorithms, including the alternating direction method of multipliers (ADMM) and more recent variations. We compare these methods in terms of their properties, and highlight their potential advantages and limitations. We also address the solution of separable inequality-constrained optimization problems through the use of nonquadratic augmented Lagrangiias such as the exponential, and we dually consider a corresponding incremental aggregated version of the proximal algorithm that uses nonquadratic regularization, such as an entropy function. We finally propose a closely related linearly convergent method for minimization of large differentiable sums subject to an orthant constraint, which may be viewed as an incremental aggregated version of the mirror descent method.

연구 동기 및 목표

• 대규모 최적화 문제에 대한 효율적인 알고리즘을 개발하기 위해.
• 고차원성으로 인해 블록 구조를 가진 문제를 다룰 때 전통적인 ADMM 및 보정 라그랑주 방법의 한계를 해결하기 위해.
• 집계된 이중 변수 갱신을 통해 증분적이고 구성 요소 단위의 갱신을 가능하게 하면서도 수렴성을 유지하기 위해.
• 비볼록 및 볼록 설정 모두에서 약한 가정 하에 이론적 수렴 보장을 제공하기 위해.

제안 방법

• 각 반복에서 알고리즘이 한 블록의 변수 $y^{i_k}$ 를 갱신하기 위해 구성 요소 인덱스 $i_k$ 를 선택한다.
• 갱신은 국소 목표 함수 $h_{i_k}(y^{i_k})$, 이중 승수 항 $\lambda_k^T A_{i_k} y^{i_k}$, 그리고 제약 위반에 대한 이차 페널티의 조합을 최소화하는 부분문제를 해결한다.
• 이차 페널티 항은 제약 조건의 잔차 $A_i y^i + \sum_{i \neq i_k} A_i y^i_\ell - b$ 를 포함하여 타당성을 촉진한다.
• 이중 변수 $\lambda_k$ 는 표준 보정 라그랑주 갱신 규칙을 사용하여 갱신된다.
• 다른 블록 $y^i$ (여기서 $i \neq i_k$) 는 갱신 중에 고정되어 있어 증분 처리가 가능하다.
• 이 방법은 수렴성과 안정성을 향상시키기 위해 제약 위반의 집계된 추정치를 사용한다.

실험 결과

연구 질문

• RQ1 블록 구조 최적화 문제에서 증분 갱신 전략이 보정 라그랑주 프레임워크 하에서 수렴성을 유지할 수 있는가?
• RQ2 제약 위반의 집계가 기존 증분 방법에 비해 수렴성을 어떻게 향상시키는가?
• RQ3 비볼록 및 볼록 문제에 대해 IAAL 알고리즘이 수렴하기 위한 조건은 무엇인가?
• RQ4 한 번에 한 블록만 갱신하는 경우에도 알고리즘이 전역 수렴을 달성할 수 있는가?

주요 결과

• IAAL 알고리즘은 목표 함수와 제약 조건 함수의 볼록성 등을 포함한 약한 가정 하에 카라슈-쿤-터커(KKT) 점으로 수렴한다.
• 증분 갱신 전략은 전체 데이터셋 기반 방법에 비해 반복당 계산 비용을 감소시켜 대규모 문제에 적합하다.
• 페널티 항에 집계된 제약 위반 잔차를 사용함으로써 수렴 안정성이 향상되고 이중 변수의 진동이 감소한다.
• 한 번에 한 블록만 갱신되는 경우에도 알고리즘은 수렴성을 유지하여 부분 갱신에 대한 강건성을 보여준다.