[논문 리뷰] A Coordinate Descent Primal-Dual Algorithm and Application to Distributed Asynchronous Optimization

Pascal Bianchi, Walid Hachem외 1명|arXiv (Cornell University)|2014. 07. 03.

Distributed Control Multi-Agent Systems참고 문헌 49인용 수 144

한 줄 요약

이 논문은 분산 비동기 최적화를 위한 랜덤화된 좌표 강하 원리-이중 알고리즘인 DAPD를 제안한다. Vu-Condat 알고리즘에 기반한 원리-이중 프레임워크에 확률적 좌표 업데이트를 적용함으로써, 에이전트들이 로컬 추정치를 독립적으로 업데이트하고 비동기적으로 데이터를 교환할 수 있게 되어, 이전 방법보다 더 약한 조건 하에서도 수렴성을 확보한다. 수치 결과는 대규모 환경에서의 효율성을 확인한다.

ABSTRACT

Based on the idea of randomized coordinate descent of $\\alpha$-averaged operators, a randomized primal-dual optimization algorithm is introduced, where a random subset of coordinates is updated at each iteration. The algorithm builds upon a variant of a recent (deterministic) algorithm proposed by V\\~u and Condat that includes the well known ADMM as a particular case. The obtained algorithm is used to solve asynchronously a distributed optimization problem. A network of agents, each having a separate cost function containing a differentiable term, seek to find a consensus on the minimum of the aggregate objective. The method yields an algorithm where at each iteration, a random subset of agents wake up, update their local estimates, exchange some data with their neighbors, and go idle. Numerical results demonstrate the attractive performance of the method. The general approach can be naturally adapted to other situations where coordinate descent convex optimization algorithms are used with a random choice of the coordinates.

연구 동기 및 목표

• 에이전트 간 비동기적으로 작동하는 수렴 보장이 있는 분산 최적화 알고리즘을 개발하는 것.
• Vu-Condat 원리-이중 알고리즘을 랜덤화된 좌표 강하 프레임워크로 확장하여 국소적이고 독립적인 업데이트를 가능하게 하는 것.
• 기존 ADMM 변종에 비해 단계 크기의 수렴 요구 조건을 줄이는 것.
• 비동기성과 부분적 에이전트 활성화를 지원함으로써 대규모 머신러닝 환경에서의 실용적 구현을 가능하게 하는 것.

제안 방법

• 알고리즘은 α-평균화된 연산자에 적용된 랜덤화된 좌표 강하 변종인 Krasnosel’skii-Mann 반복의 유도 결과이다.
• 분산 최적화 문제를 선형 연산자 M를 통해 공통화 조건을 포함한 원리-이중 사鞍점 문제로 재구성한다.
• 각 반복 단계에서 랜덤으로 선택된 에이전트 하위 집합이 육체 연산자와 이웃과의 이중 변수를 사용하여 로컬 변수를 업데이트한다.
• 유연성 있는 수렴 보장을 위해 이중 상승 단계에 조정을 적용하고, 수렴을 더 약한 가정 하에서도 유지하는 랜덤 업데이트 규칙을 적용한다.
• 알고리즘은 DADMM+ 프레임워크와 공식적으로 연결되어 있지만, 좌표 선택을 통해 비동기적이고 부분적인 업데이트를 허용하도록 변형되었다.
• 수렴성은 α-평균화된 연산자의 고정점 분석과 반복값의 거의 확실 수렴을 통해 입증된다.

실험 결과

연구 질문

• RQ1 α-평균화된 연산자에 기반한 원리-이중 알고리즘에 랜덤화된 좌표 강하 접근법을 적용하여 수렴성을 보장할 수 있는가?
• RQ2 제안된 비동기적, 분산형 알고리즘이 에이전트들이 독립적이고 랜덤 순서로 업데이트할 때도 수렴성을 유지하는가?
• RQ3 기존 결정론적 ADMM 변종에 비해 더 약한 단계 크기 가정 하에서도 수렴 보장을 연장할 수 있는가?
• RQ4 수렴 속도와 확장성 측면에서 동기적 대안과 비교해 성능가 어떻게 되는가?

주요 결과

• DAPD 알고리즘은 원래 Vu-Condat 알고리즘보다 단계 크기의 가정 조건이 더 약한 조건 하에서도 거의 확실한 원리-이중 해 수렴을 달성한다.
• 랜덤화된 좌표 강하 프레임워크는 각 반복에서 일부 에이전트만 업데이트하는 경우에도 수렴성을 보장한다. 이는 완전한 비동기성을 가능하게 한다.
• 다양한 항목의 기울기가 리프시츠 연속일 경우 알고리즘이 증명 가능하게 수렴하며, 수렴 속도는 네트워크의 최소 차수에 따라 달라진다.
• 수치 결과는 분산 환경에서 수렴 속도와 확장성 측면에서 뛰어난 성능을 보임을 입증한다.
• 에이전트가 지연되거나 오래된 정보를 사용할 경우에도 알고리즘이 수렴성을 유지하므로, 실제 분산 시스템에 적합하다.