[논문 리뷰] Decomposing Linearly Constrained Nonconvex Problems by a Proximal Primal Dual Approach: Algorithms, Convergence, and Applications

Mingyi Hong|arXiv (Cornell University)|2016. 04. 02.

Sparse and Compressive Sensing Techniques참고 문헌 45인용 수 32

한 줄 요약

이 논문은 선형 제약 조건이 붙은 비볼록 최적화 문제를 해결하기 위한 Prox-PDA, 즉 보조적 원시-이중 알고리즘을 제안한다. 펜alty 파ameter가 임계값을 초과할 경우, 정류점으로의 전역 하향 수렴 속도가 하향 수렴 속도를 보이며, EXTRA 알고리즘이 비볼록 분산 환경에서도 정류점으로 전역 수렴함을 드러낸다.

ABSTRACT

In this paper, we propose a new decomposition approach named the proximal primal dual algorithm (Prox-PDA) for smooth nonconvex linearly constrained optimization problems. The proposed approach is primal-dual based, where the primal step minimizes certain approximation of the augmented Lagrangian of the problem, and the dual step performs an approximate dual ascent. The approximation used in the primal step is able to decompose the variable blocks, making it possible to obtain simple subproblems by leveraging the problem structures. Theoretically, we show that whenever the penalty parameter in the augmented Lagrangian is larger than a given threshold, the Prox-PDA converges to the set of stationary solutions, globally and in a sublinear manner (i.e., certain measure of stationarity decreases in the rate of $\mathcal{O}(1/r)$, where $r$ is the iteration counter). Interestingly, when applying a variant of the Prox-PDA to the problem of distributed nonconvex optimization (over a connected undirected graph), the resulting algorithm coincides with the popular EXTRA algorithm [Shi et al 2014], which is only known to work in convex cases. Our analysis implies that EXTRA and its variants converge globally sublinearly to stationary solutions of certain nonconvex distributed optimization problem. There are many possible extensions of the Prox-PDA, and we present one particular extension to certain nonconvex distributed matrix factorization problem.

연구 동기 및 목표

• 구조적 분해를 통한 비볼록, 선형 제약 조건이 붙은 최적화 문제에서 1차 방법의 수렴 보장 부족 문제를 해결한다.
• 변수 블록을 보조적 근사에 기반한 증강 라그랑주안의 보조적 방법으로 분해하는 원시-이중 알고리즘을 개발하여 확장 가능한 구현을 가능하게 한다.
• 펜alty 파ameter의 임계 조건을 만족할 경우, 정류점으로의 전역 하향 수렴을 확립한다.
• 이론적 분석을 확장하여, 이전에는 볼록 케이스에서만 알려진 EXTRA 알고리즘이 비볼록 분산 환경에서도 정류점으로 전역 수렴함을 보여준다.
• 구체적인 확장 사례를 통해 방법의 비볼록 분산 행렬 분해 문제에 대한 적용 가능성을 입증한다.

제안 방법

• 원시-이중 알고리즘(Prox-PDA)을 제안하며, 원시 단계는 증강 라그랑주안의 보조적 근사값을 최소화하여 변수 블록 분해를 가능하게 한다.
• 근사된 이중 상승 단계를 사용해 이중 변수를 갱신하며, 이중 반복값이 유계이고 수렴이 유지되도록 보장한다.
• 증강 라그랑주와 보조적 항목을 조합한 잠재 함수를 도입하며, 펜alty 및 보조적 파ameter가 특정 부등식을 만족할 경우 내림내림이 보장된다.
• 잠재 함수가 하한을 가지며 감소 속도가 O(1/r)임을 증명함으로써 정류점으로의 하향 수렴 속도를 확립한다.
• 행렬의 구조(예: A^T A)를 활용해 펜alty 및 보조적 파ameter에 대한 조건을 유도하여 내림내림과 반복값의 유계성을 보장한다.
• 문제를 공통화 형태로 매핑함으로써 분산 비볼록 최적화에 프레임워크를 적용하며, 비볼록 조건 하에서 EXTRA 알고리즘과의 등가성을 보여준다.

실험 결과

연구 질문

• RQ1 1차 원시-이중 방법이 변수 분해가 가능한 비볼록, 선형 제약 조건이 붙은 문제에서 정류점으로의 전역 하향 수렴을 달성할 수 있는가?
• RQ2 펜alty 및 보조적 파ameter에 대한 어떤 조건이 Prox-PDA 알고리즘의 수렴을 보장하는가?
• RQ3 볼록 최적화에 대해 알려진 바 있는 EXTRA 알고리즘이 비볼록 환경에서도 정류점으로 전역 수렴하는가?
• RQ4 Prox-PDA 프레임워크는 비볼록 분산 행렬 분해 문제로 확장될 수 있는가?
• RQ5 제약 행렬 A의 구조는 알고리즘의 수렴성과 안정성에 어떤 영향을 미치는가?

주요 결과

• 펜alty 파ameter β가 특정 임계값을 초과할 경우, Prox-PDA는 정류점 집합으로의 전역 하향 수렴 속도 O(1/r)를 달성한다.
• β, γ, c, d를 포함한 네 개의 결합된 부등식을 만족함으로써 잠재 함수의 내림내림이 보장되며, 파ameter를 적절히 선택함으로써 항상 만족 가능하다.
• 원시 및 이중 반복값은 극한에서 유계이며, 이는 수렴 분석에 필수적이다.
• 연결된 무방향 그래프 상에서 분산 비볼록 최적화에 적용할 경우, Prox-PDA는 EXTRA 알고리즘으로 간소화되며, 이는 EXTRA 알고리즘이 비볼록 케이스에서도 정류점으로 전역 수렴함을 의미한다.
• 분석을 통해 네트워크 전체의 공통화 제약 조건이 점점 만족됨을 증명하며, 극한에서 A X^r → 0 임을 보였다.
• 이 방법은 비볼록 분산 행렬 분해 문제로 확장되어 표준 형태를 초월한 실용적 적용 가능성을 입증하였다.