[논문 리뷰] Asynchronous Distributed Optimization using a Randomized Alternating Direction Method of Multipliers

Franck Iutzeler, Pascal Bianchi외 2명|arXiv (Cornell University)|2013. 03. 12.

Distributed Control Multi-Agent Systems참고 문헌 1인용 수 22

한 줄 요약

이 논문은 Douglas-Rachford 분할 방법의 확률적 Gauss-Seidel 변형에 기반한 이방형 분산 최적화 알고리즘을 제안하며, 네트워크 내 에이전트들이 협조 없이 독립적이고 이방형으로 자신의 추정치를 갱신할 수 있도록 한다. 이 방법은 네트워크 그래프에 대한 약한 연결성 조건 하에서 공통 최적화 문제의 전역 최소화점을 수렴하며, 수치 실험에서 경사 기반 대안들보다 뛰어난 성능을 보인다.

ABSTRACT

Consider a set of networked agents endowed with private cost functions and seeking to find a consensus on the minimizer of the aggregate cost. A new class of random asynchronous distributed optimization methods is introduced. The methods generalize the standard Alternating Direction Method of Multipliers (ADMM) to an asynchronous setting where isolated components of the network are activated in an uncoordinated fashion. The algorithms rely on the introduction of randomized Gauss-Seidel iterations of a Douglas-Rachford operator for finding zeros of a sum of two monotone operators. Convergence to the sought minimizers is provided under mild connectivity conditions. Numerical results sustain our claims.

연구 동기 및 목표

• 변동하는 계산 시간을 가진 이질적 네트워크에서 동기 분산 최적화의 비효율성을 해결하기 위해.
• 에이전트들이 국소 정보와 무작위 활성화에 기반해 독립적으로 갱신하는 완전히 이방형 알고리즘을 개발하기 위해.
• 확률적 단조 연산자 분할을 사용해 ADMM 프레임워크를 이방형 환경으로 일반화하기 위해.
• 협조 오버헤드를 피하기 위해 최소한의 연결성 및 활성화 조건 하에서 수렴성을 증명하기 위해.
• 수치 실험에서 동기 ADMM 및 분산 경사 하강법과의 성능 비교를 통해 뛰어난 성능을 입증하기 위해.

제안 방법

• 알고리즘은 두 개의 단조 연산자의 합을 해결하기 위해 Douglas-Rachford 연산자의 확률적 Gauss-Seidel 반복을 사용하며, 이는 공통 최적화 문제의 이중 문제를 모델링한다.
• 각 에이전트는 국소 변수를 유지한다: 원시 추정치 $x(v)$, 이중 변수 $\lambda(v)$, 그리고 이웃의 공통 변수 $\bar{z}_\ell$.
• 각 단계에서 무작위로 선택된 에이전트 또는 간선이 문제의 보정 라그랑지안에 기반한 프록시 연산을 사용해 국소 변수를 갱신한다.
• 프록시 갱신은 국소 비용 함수 $f_v$와 이웃의 공통 변수 및 이중 추정치의 가중 평균을 사용하여 계산된다.
• 통신은 이웃 간에 국한되며, 활성화된 에이전트만 상태를 갱신하고, 나머지는 이전 값을 유지한다.
• 전역 동기화를 피하기 위해 무작위이고 독립적인 활성화 및 이방형 상태 전파에 의존한다.

실험 결과

연구 질문

• RQ1 전역적 협조 또는 동기화 없이 작동하는 분산 ADMM 변형을 설계할 수 있는가?
• RQ2 무작위이고 독립적인 에이전트 활성화 하에서 이방형 ADMM의 수렴 보장을 어떻게 제공할 수 있는가?
• RQ3 Douglas-Rachford 분할에 대한 확률적 Gauss-Seidel 접근 방식이 분산 최적화에서 수렴을 어떻게 향상시키는가?
• RQ4 네트워크의 연결성과 활성화 빈도는 이방형 알고리즘의 수렴 속도에 어떤 영향을 미치는가?
• RQ5 제안된 방법은 동기 ADMM 및 무작위 가이시 방식을 사용하는 분산 경사 하강법과 비교해 성능가 어떻게 다른가?

주요 결과

• 제안된 이방형 ADMM는 네트워크 그래프에 대한 약한 연결성 조건 하에서 공통 최적화 문제의 전역 최소화점을 수렴한다.
• 에이전트들이 협조 없이 또는 전역 시계 없이 임의의 간격으로 활성화되더라도 알고리즘이 수렴한다.
• 수치 결과에 따르면, $1/\sqrt{k}$ 단계 크기를 사용하는 분산 경사 하강법보다 이방형 ADMM가 수렴 속도와 오차 감소 측면에서 뛰어나다.
• 실제로 선형 수렴 속도를 유지하며, 제곱 오차가 경사 기반 방법보다 상당히 더 빠르게 감소한다.
• 이상적인 계산 시간의 이질성과 에이전트 간의 변동하는 활성화 빈도에 대해 강건하다.
• 이웃 간 통신과 간선 기반 활성화를 사용한 구현은 최소한의 메시지 전달으로 효과적인 공통화를 달성한다.