[논문 리뷰] Randomized Primal-Dual Proximal Block Coordinate Updates

Xiang Gao, Yangyang Xu외 1명|arXiv (Cornell University)|2016. 05. 19.

Sparse and Compressive Sensing Techniques참고 문헌 15인용 수 15

한 줄 요약

이 논문은 선형 제약 조건과 결합된 목적함수를 가진 다중 블록 볼록 최적화 문제를 해결하기 위해 랜덤화된 원천-이중 블록 좌표 업데이트(RPDBU) 방법을 제안한다. 랜덤 블록 선택과 프록시멀 항을 통합함으로써, 강한 볼록성이나 유계성 조건 없이 볼록성 가정만으로도 기대값 기준 O(1/t) 수렴 속도를 확립한다. 이는 ADMM, PD-S 및 Prox-JADMM에 대한 기존 결과를 복원하고 강화한다.

ABSTRACT

In this paper we propose a randomized primal-dual proximal block coordinate updating framework for a general multi-block convex optimization model with coupled objective function and linear constraints. Assuming mere convexity, we establish its $O(1/t)$ convergence rate in terms of the objective value and feasibility measure. The framework includes several existing algorithms as special cases such as a primal-dual method for bilinear saddle-point problems (PD-S), the proximal Jacobian ADMM (Prox-JADMM) and a randomized variant of the ADMM method for multi-block convex optimization. Our analysis recovers and/or strengthens the convergence properties of several existing algorithms. For example, for PD-S our result leads to the same order of convergence rate without the previously assumed boundedness condition on the constraint sets, and for Prox-JADMM the new result provides convergence rate in terms of the objective value and the feasibility violation. It is well known that the original ADMM may fail to converge when the number of blocks exceeds two. Our result shows that if an appropriate randomization procedure is invoked to select the updating blocks, then a sublinear rate of convergence in expectation can be guaranteed for multi-block ADMM, without assuming any strong convexity. The new approach is also extended to solve problems where only a stochastic approximation of the (sub-)gradient of the objective is available, and we establish an $O(1/\sqrt{t})$ convergence rate of the extended approach for solving stochastic programming.

연구 동기 및 목표

• 선형 제약 조건과 결합된 목적함수를 가진 다중 블록 볼록 최적화 문제를 해결하기 위한 통합 프레임워크를 개발하는 것.
• 강한 볼록성 또는 유계 제약 집합 조건 없이도 원천-이중 설정에서 랜덤 블록 좌표 업데이트의 수렴 보장을 확립하는 것.
• 오직 노이즈가 있는 (부분)기울기만 이용 가능한 스 tochastic 설정으로 프레임워크를 확장하는 것.
• Prox-JADMM 및 PD-S와 같은 기존 알고리즘의 수렴 결과를 더 엄격한 가정 없이 복원하고 강화하는 것.
• 랜덤화된 다중 블록 ADMM에 대한 이론적 기반을 제공하여 일반 볼록성 조건 하에서 기대값 기준의 하향 수렴을 보여주는 것.

제안 방법

• 각 반복에서 블록을 균일하게 랜덤으로 선택하는 랜덤화된 원천-이중 블록 좌표 업데이트(RPDBU) 알고리즘을 제안한다.
• 선택된 블록은 고정된 다른 블록을 유지하면서 프록시멀 기울기 매핑을 통해 업데이트되며, 수렴을 보장하기 위해 적응형 프록시멀 항을 사용한다.
• 다중 블록 ADMM이 두 개를 초과할 경우 발산 문제를 피하기 위해 랜덤 블록 선택 전략을 적용한다.
• 단계 크기 η를 사용한 기울기 스텝을 통한 이중 변수 업데이트를 적용하여 이중 타당성과 목적함수 진전을 보장한다.
• 스 tochastic (부분)기울기 추정기와 함께 적응형으로 프록시멀 매개수 αₖ를 조정함으로써 스 tochastic 설정으로의 확장을 수행한다.
• 리아푸노프 함수를 사용하여 목적함수 갭과 타당성 위반의 기대 감소를 분석함으로써 수렴 속도를 유도한다.

실험 결과

연구 질문

• RQ1 강한 볼록성이나 유계성 조건 없이 볼록성 가정만으로도 다중 블록 볼록 최적화 문제에서 O(1/t) 수렴 속도를 확보할 수 있는가?
• RQ2 제안된 RPDBU 방법은 Prox-JADMM 및 PD-S와 같은 기존 알고리즘의 수렴 속도를 복원하거나 향상시키는가?
• RQ3 랜덤화된 접근 방식은 두 개를 초과하는 블록에서 기존에 알려진 바와 같이 발산하는 결정론적 다중 블록 ADMM를 안정화시킬 수 있는가?
• RQ4 오직 노이즈가 있는 (부분)기울기만 이용 가능한 경우 RPDBU 방법의 수렴 속도는 무엇인가?
• RQ5 RPDBU의 결정론적 변형은 유사한 수렴 성질을 유지하는가, 아니면 다중 블록 케이스에서 수렴을 위해 랜덤화가 필수적인가?

주요 결과

• RPDBU 방법은 강한 볼록성이나 제약 집합의 유계성 조건 없이도 볼록성 가정만으로도 목적함수 값과 타당성 측도에 대해 기대값 기준 O(1/t) 수렴 속도를 달성한다.
• 원천-이중 사 saddle-point 문제(PD-S)의 경우, 이전에 요구되었던 제약 집합의 유계성 조건 없이도 동일한 O(1/t) 수렴 속도를 달성한다.
• Prox-JADMM의 경우, 목적함수 값과 타당성 위반 모두에 대해 새로운 수렴 속도 분석을 제공함으로써 이전 결과를 향상시킨다.
• 기존에 결정론적으로 발산하는 것으로 알려진 랜덤 블록 선택을 사용할 경우, 다중 블록 ADMM는 기대값 기준 O(1/t) 수렴 속도를 확보한다.
• 노이즈가 있는 (부분)기울기만 이용 가능한 스 tochastic 설정에서, 확장된 RPDBU 방법은 적응형으로 프록시멀 매개수 αₖ를 선택함으로써 O(1/√t) 수렴 속도를 달성한다.
• 이 방법은 여러 기존 알고리즘을 일반화하고 통합한다: 특정 프록시멀 항을 사용해 모든 블록을 동시에 업데이트할 경우 Prox-JADMM로 간주되며, 결합된 함수 f가 존재하지 않을 경우 랜덤화된 ADMM의 변형으로 간주된다.