[논문 리뷰] Asynchronous Gossip-Based Random Projection Algorithms Over Networks

Soomin Lee, Angelia Nedich|arXiv (Cornell University)|2013. 04. 05.

Distributed Control Multi-Agent Systems참고 문헌 6인용 수 4

한 줄 요약

이 논문은 중앙 조정자가 없는 다중 에이전트 네트워크에서 분산 볼록 최적화를 위한 이방향 게이트지 기반 무작위 투영(GRP) 알고리즘을 제안한다. 국부적이고 이방향 업데이트 및 개별 제약 조건에 대한 무작위 투영을 통해, 감소하는 스텝사이즈를 사용할 경우 최적 해로 거의 확실히 수렴하고, 일정한 스텝사이즈를 사용할 경우 오차 한계를 제공함으로써, 강건한 모델 예측 제어와 같은 대규모 및 제약 조건이 있는 문제에 대해 효율적이고 확장 가능한 해법을 가능하게 한다.

ABSTRACT

We consider a fully distributed constrained convex optimization problem over a multi-agent (no central coordinator) network. We propose an asynchronous gossip-based random projection (GRP) algorithm that solves the distributed problem using only local communications and computations. We analyze the convergence properties of the algorithm for an uncoordinated diminishing stepsize and a constant stepsize. For a diminishing stepsize, we prove that the iterates of all agents converge to the same optimal point with probability 1. For a constant stepsize, we establish an error bound on the expected distance from the iterates of the algorithm to the optimal point. We also provide simulation results on a distributed robust model predictive control problem.

연구 동기 및 목표

• 중앙 조정자나 글로벌 조율 없이도 작동하는 완전히 분산된 최적화 알고리즘을 개발하는 것.
• 무선 센서와 같은 자원 제약이 있는 에이전트에서 전체 제약 조건 집합의 투영으로 인한 계산 부담을 완화하는 것.
• 비동기적이고 국소적인 통신 및 계산을 가능하게 하되, 비동기적 스텝사이즈 전략에서도 수렴성을 유지하는 것.
• 감소하는 스텝사이즈와 일정한 스텝사이즈 모두에 대해 분산 환경에서 이론적 수렴 보장을 제공하는 것.
• 실제 네트워크 구조를 반영한 분산 강건 모델 예측 제어 문제에서 알고리즘을 검증하는 것.

제안 방법

• 에이전트 쌍이 무작위로 선택되어 이방향으로 국부적 추정치를 교환하고 업데이트하는 게이트지 통신 프로토콜을 사용한다.
• 각 에이전트는 반복마다 무작위로 선택된 국소 제약 조건 집합에 대해 무작위 투영을 수행함으로써 계산 부담을 감소시킨다.
• 감소하는 스텝사이즈를 사용해 최적 해로 거의 확실히 수렴시키고, 일정한 스텝사이즈를 사용해 오차가 유한한 성능을 확보한다.
• 글로벌 지식이나 동기화가 필요 없이 분산된 목적 함수와 국소 제약 조건 집합을 처리하도록 알고리즘을 설계한다.
• 이론적 분석은 확률적 근사와 마르코프 체인 성질을 활용하여 수렴성과 오차 한계를 입증한다.
• 시뮬레이션은 상자 형태의 불확실성을 가진 강건한 모델 예측 제어 문제를 활용하며, 이를 이차 프로그래밍으로 재구성하여 검증한다.

실험 결과

연구 질문

• RQ1 무작위 투영을 갖는 이방향, 게이트지 기반 알고리즘이 분산 네트워크에서 최적 해로 거의 확실히 수렴할 수 있는가?
• RQ2 비동기적 환경에서 비동기적 스텝사이즈가 감소하는 경우 알고리즘의 수렴 행동은 어떻게 되는가?
• RQ3 일정한 스텝사이즈를 사용할 경우 알고리즘의 성능은 어떠한가? 그리고 최적 해와의 기대 거리에 대해 어떤 오차 한계를 설정할 수 있는가?
• RQ4 네트워크 구조가 다양한 스텝사이즈 전략 하에서 알고리즘의 수렴 속도와 성능에 어떤 영향을 미치는가?
• RQ5 전체 글로벌 제약 조건 집합에 대한 지식이 없이도 분산된 국소 제약 조건이 있는 최적화 문제를 효율적으로 처리할 수 있는가?

주요 결과

• 감소하는 스텝사이즈를 사용할 경우, 모든 에이전트의 반복값은 확률 1로 동일한 최적 해로 수렴하여 전역 최적성을 보장한다.
• 일정한 스텝사이즈를 사용할 경우, 반복값과 최적 해 사이의 기대 거리는 유계이므로 성능에 대한 정량적 측도를 제공한다.
• 감소하는 스텝사이즈를 사용할 경우, 클리크, 사이클, 스타 네트워크 구조에서의 시뮬레이션 결과를 바탕으로 알고리즘의 수렴성이 네트워크 구조에 대해 강건함을 확인하였다.
• 일정한 스텝사이즈를 사용할 경우, 수렴 속도는 네트워크 구조에 따라 달라지며, 스타 네트워크는 에이전트 선택 확률이 비균형적이므로 더 느리게 수렴한다.
• 더 큰 네트워크(m=10)에서는 스펙트럼 갭의 차이가 감소하여 일정한 스텝사이즈 전략 하에서 네트워크 구조 간 성능 차이가 줄어든다.
• 분산 강건 모델 예측 제어 문제에 대한 시뮬레이션 결과는 오차 감소가 빠르고 확장성이 뛰어나다는 것을 확인하였으며, 알고리즘의 실용적 적용 가능성을 검증한다.