[논문 리뷰] Decentralized Consensus Optimization with Asynchrony and Delays

Tianyu Wu, Kun Yuan외 3명|arXiv (Cornell University)|2016. 12. 01.

Distributed Control Multi-Agent Systems참고 문헌 41인용 수 9

한 줄 요약

이 논문은 고정 단계 크기와 간선별 이중 변수를 사용하여 유한 및 무한 지연 하에서 정확한 해로 수렴하는 이면적, 분산형 원시-이중 알고리즘을 제안한다. 이 알고리즘은 전역 동기화가 필요 없이 지연된 이웃 정보를 사용하여 독립적으로 계산하고 통신할 수 있도록 하여, 랜덤한 에이전트 활성화와 유한 지연 하에서도 수렴 보장을 유지한다.

ABSTRACT

We propose an asynchronous, decentralized algorithm for consensus optimization. The algorithm runs over a network in which the agents communicate with their neighbors and perform local computation. In the proposed algorithm, each agent can compute and communicate independently at different times, for different durations, with the information it has even if the latest information from its neighbors is not yet available. Such an asynchronous algorithm reduces the time that agents would otherwise waste idle because of communication delays or because their neighbors are slower. It also eliminates the need for a global clock for synchronization. Mathematically, the algorithm involves both primal and dual variables, uses fixed step-size parameters, and provably converges to the exact solution under a bounded delay assumption and a random agent assumption. When running synchronously, the algorithm performs just as well as existing competitive synchronous algorithms such as PG-EXTRA, which diverges without synchronization. Numerical experiments confirm the theoretical findings and illustrate the performance of the proposed algorithm.

연구 동기 및 목표

• 전역 동기화나 느린 에이전트를 기다리는 것을 요구하지 않는 이면적 동작을 하는 분산 최적화 알고리즘을 개발하는 것.
• 유한 및 무한 통신 및 계산 지연 하에서도 정확한 해로 수렴하도록 보장하는 것.
• PG-EXTRA 알고리즘을 간선 기반 이중 변수를 도입하여 지연 정보에 대한 강건성을 확보함으로써 이면적 환경으로 확장하는 것.
• 동기화가 비용이 많이 들거나 불가능한 대규모 이질적 네트워크에서의 실용적 구현을 가능하게 하는 것.
• 행렬 완성 및 기하학적 중앙값 계산을 포함한 볼록 및 비볼록 문제에서 알고리즘 성능을 검증하는 것.

제안 방법

• 각 네트워크 간선에 관련된 이중 변수를 사용하는 원시-이중 공식화를 통해 지연된 이웃 정보를 처리한다.
• 랜덤 활성화 스케줄에 기반하여 각 에이전트는 잠재적으로 오래된 이웃 데이터를 사용하여 국소 변수와 이중 변수를 독립적으로 업데이트한다.
• 업데이트 규칙은 고정 단계 크기를 사용하여 국소 계산과 지연된 이웃 변수 및 이중 변수의 가중 조합을 통합한다.
• 수렴 안정성을 향상시키기 위해 유연성 파라미터를 도입하고, 랜덤 에이전트 가정 하에서 수렴을 보장한다.
• PG-EXTRA의 이면적 확장으로서 유도된 알고리즘으로, 정확한 수렴을 유지하기 위해 간선별로 명시적인 이중 변수를 사용한다.
• 이중 변수가 없는 변형도 제안 및 평가되어 수렴 속도와 강건성 사이의 트레이드오프를 보여준다.

실험 결과

연구 질문

• RQ1 에이전트가 임의의 지연 하에서 이면적으로 동작할 때, 분산 최적화 알고리즘이 정확한 해로 수렴할 수 있는가?
• RQ2 간선 기반 이중 변수의 도입이 기존 동기 알고리즘과 비교해 이면적 환경에서 수렴 강건성을 어떻게 향상시키는가?
• RQ3 대규모 분산 네트워크에서 이질적인 처리 및 통신 지연이 존재할 때, 전역 동기화를 제거함으로써 얻는 성능 향상은 무엇인가?
• RQ4 이면적 원시-이중 알고리즘은 이면적 ADMM 및 동기 PG-EXTRA에 비해 수렴 속도와 정확도 측면에서 어떻게 비교되는가?
• RQ5 고정 단계 크기와 유연성 파라미터는 무한 지연 하에서 수렴 안정성에 어떤 영향을 미치는가?

주요 결과

• 제안된 이면적 알고리즘은 랜덤 에이전트 활성화 가정 하에 유한 및 무한 지연 조건에서 확률 1로 정확한 해로 수렴한다.
• 동기적으로 실행할 경우, 경쟁적인 동기 알고리즘인 PG-EXTRA와 유사한 성능을 보이며, 동기화 실패 상황에서도 발산을 방지한다.
• 20개 노드 네트워크에서 이면적 알고리즘은 동일한 시간 동안 동기 버전보다 29배 더 많은 계산 및 통신 라운드를 완료했다.
• 수치 결과는 기하학적 중앙값 문제에서 이면적 ADMM보다 빠른 수렴 속도를 보이며, 동일한 설정 조건 하에서 성능이 뛰어나다는 것을 보여준다.
• 고정 단계 크기를 사용함으로써도 빠른 수렴을 유지하며, 감소하는 단계 크기나 전역 조율가 필요로 하지 않는다.
• 간선 기반 이중 변수의 사용은 PG-EXTRA가 이면적 환경에서 발산하는 것과는 달리, 지연된 정보 하에서도 정확한 수렴을 가능하게 한다.