[논문 리뷰] A Class of Randomized Primal-Dual Algorithms for Distributed Optimization

Jean‐Christophe Pesquet, Audrey Repetti|arXiv (Cornell University)|2014. 06. 24.

Stochastic Gradient Optimization Techniques참고 문헌 53인용 수 83

한 줄 요약

이 논문은 분산 볼록 최적화를 위한 랜덤 블록좌표 원본-쌍대 알고리즘의 클래스를 제안하며, 랜덤 스위핑과 조절을 통해 계산 부담을 줄이고 비동기 업데이트를 가능하게 한다. 주요 기여는 확률적 오차와 랜덤 블록 활성화 하에서 수렴 보장을 제공하는 것으로, 단조 포함 문제와 약한 수렴이 거의 확실히 발생하는 복합 볼록 최적화 문제에 적용 가능하다.

ABSTRACT

Based on a preconditioned version of the randomized block-coordinate forward-backward algorithm recently proposed in [Combettes,Pesquet,2014], several variants of block-coordinate primal-dual algorithms are designed in order to solve a wide array of monotone inclusion problems. These methods rely on a sweep of blocks of variables which are activated at each iteration according to a random rule, and they allow stochastic errors in the evaluation of the involved operators. Then, this framework is employed to derive block-coordinate primal-dual proximal algorithms for solving composite convex variational problems. The resulting algorithm implementations may be useful for reducing computational complexity and memory requirements. Furthermore, we show that the proposed approach can be used to develop novel asynchronous distributed primal-dual algorithms in a multi-agent context.

연구 동기 및 목표

• 대규모 분산 최적화 문제를 위한 유연하고 복잡도가 낮은 원본-쌍대 알고리즘을 개발하기 위해.
• 각 반복에서 변수의 부분집합만 활성화하는 블록좌표 업데이트를 통해 메모리 및 계산 요구량을 줄이기 위해.
• 최소한의 조율으로 다중 에이전트 시스템에서 비동기적, 분산 구현을 가능하게 하기 위해.
• 연산자 평가에서 발생하는 확률적 오차가 존재하더라도 수렴 보장을 확보하기 위해, 약한 합계 조건 하에서.
• 기존의 전진-뒤로 원본-쌍대 방법을 확장하여 이론적 보장을 갖춘 랜덤화되고 블록 기반으로 활성화된 변형으로 확장하기 위해.

제안 방법

• 원본-쌍대 반복의 기초로 조절된 랜덤 블록좌표 전진-뒤로 알고리즘을 사용한다.
• 각 반복에서 변수의 블록을 선택하는 랜덤 활성화 규칙을 사용하여 비동기적이고 분산된 계산을 가능하게 한다.
• 연산자 평가에서 발생하는 오차를 다루기 위해 확률적 준-페어러 수열을 도입하며, 합계 조건 하에서 수렴을 보장한다.
• 단조 연산자에 대한 전진-뒤로 반복에 랜덤 스위핑을 적용하여 블록좌표 원본-쌍대 알고리즘을 유도한다.
• 근처 연산자와 기울기의 조합을 통해 복합 볼록 문제에 프레임워크를 적용하며, 이중 변수를 통한 변수 분할을 사용한다.
• 업데이트가 에이전트 이웃 영역에 국한되도록 분산된 방법을 설계하며, 공감 기반 평균화와 이중 변수 업데이트를 사용한다.

실험 결과

연구 질문

• RQ1 각 반복에서 변수의 부분집합만 업데이트할 경우, 랜덤 블록좌표 기반 기법이 원본-쌍대 알고리즘의 수렴을 유지할 수 있는가?
• RQ2 연산자 평가에서 발생하는 확률적 오차를 어떻게 견디면서도 분산 원본-쌍대 방법의 수렴을 유지할 수 있는가?
• RQ3 제안된 프레임워크는 최소한의 조율으로 비동기적, 다중 에이전트 분산 최적화를 어느 정도 지원할 수 있는가?
• RQ4 랜덤 블록 선택과 확률적 오차 존재 하에서 반복의 약한 거의 확실 수렴을 보장하는 조건은 무엇인가?
• RQ5 블록좌표 접근법은 단조 포함 문제와 복합 볼록 최적화 문제 양쪽에 어떻게 적응시킬 수 있는가?

주요 결과

• 적절한 스텝 사이즈 및 오차 조건 하에서, 제안된 랜덤 블록좌표 원본-쌍대 알고리즘은 단조 포함 문제의 해로 거의 확실히 약한 수렴을 보인다.
• 오차가 합계 조건을 만족하는 한, 연산자 평가에서 발생하는 확률적 오차가 존재하더라도 수렴이 유지된다.
• 프레임워크는 각 단계에서 에이전트 이웃 영역만 업데이트하는 비동기 분산 구현을 지원한다.
• 복합 볼록 문제의 경우, 알고리즘은 근처 연산자와 기울기의 사용을 모두 허용하여 알고리즘 설계의 유연성을 제공한다.
• 유클리드 공간에서 일정한 스텝 사이즈와 오차가 없는 특수한 경우, 알고리즘은 알려진된 분산 방법으로 축소되며 일관성을 검증한다.
• 수렴 분석은 블록좌표 방법의 적용 범위를 랜덤 설정으로 확장하는 새로운 확률적 준-페어러 수열 프레임워크에 기반한다.