[논문 리뷰] Distributed Aggregative Optimization over Multi-Agent Networks

Xiuxian Li, Lihua Xie외 1명|arXiv (Cornell University)|2020. 05. 27.

Distributed Control Multi-Agent Systems참고 문헌 33인용 수 6

한 줄 요약

이 논문은 국소 목적함수들이 개별 변수뿐 아니라 모든 에이전트의 변수 평균에 의존하는 분산 집계 최적화를 소개한다. 강한 볼록성과 균형 잡힌, 강하게 연결된 통신 그래프 조건 하에서 선형 수렴를 달성하는 분산 기울기 추적(Distributed Gradient Tracking, DGT) 알고리즘을 제안하며, 이는 다중 에이전트 시스템에서 빠르고 탈중앙화된 최적화를 가능하게 한다.

ABSTRACT

This paper proposes a new framework for distributed optimization, called distributed aggregative optimization, which allows local objective functions to be dependent not only on their own decision variables, but also on the average of summable functions of decision variables of all other agents. To handle this problem, a distributed algorithm, called distributed gradient tracking (DGT), is proposed and analyzed, where the global objective function is strongly convex, and the communication graph is balanced and strongly connected. It is shown that the algorithm can converge to the optimal variable at a linear rate. A numerical example is provided to corroborate the theoretical result.

연구 동기 및 목표

• 개별 변수뿐만 아니라 모든 에이전트의 변수 평균에 의존하는 분산 최적화 문제를 다루기 위해.
• 중앙 집중적 조율 없이도 에이전트들이 협력적으로 글로벌 목적함수를 최소화할 수 있는 분산 알고리즘을 개발하기 위해.
• 강한 볼록성과 균형 잡힌 통신 그래프 등의 온건한 가정 하에서 제안된 알고리즘의 선형 수렴 보장을 확립하기 위해.
• 다중 에이전트 시스템에서 집계 최적화를 위한 이론적 프레임워크와 수치적 검증을 제공하기 위해.

제안 방법

• 각 에이전트의 목적함수가 자신의 변수와 모든 에이전트 변수의 평균에 의존하는 새로운 문제 정식화인 분산 집계 최적화를 제안한다.
• 지역 기울기 정보와 글로벌 평균에 대한 공감 기반 추정을 사용하는 분산 기울기 추적(DGT) 알고리즘을 개발한다.
• 각 에이전트가 국소 통신을 통해 글로벌 결정 변수 평균을 추정할 수 있도록 추적 메커니즘을 활용한다.
• 정보 교환과 수렴을 보장하기 위해 고정된, 균형 잡힌, 강하게 연결된 통신 그래프를 사용한다.
• 반복 행렬의 스펙트럼 성질을 분석하여 수렴성을 분석하며, 고유값 분석을 통해 선형 수렴를 증명한다.
• 작은 단계 크기에서 시스템 행렬의 스펙트럼 반경이 1보다 작다는 것을 보이기 위해 편미분 기법을 적용하여 선형 수렴를 보장한다.

실험 결과

연구 질문

• RQ1 국소 목적함수가 모든 에이전트 변수의 평균에 의존하는 경우로 분산 최적화를 확장할 수 있는가?
• RQ2 이러한 집계 최적화 문제에서 선형 수렴를 달성할 수 있는 분산 알고리즘은 무엇인가?
• RQ3 강한 볼록성과 균형 잡힌 통신 그래프 등의 가정이 수렴성에 어떤 영향을 미치는가?
• RQ4 제안된 알고리즘은 현실적인 수치 예제를 통해 검증될 수 있는가?

주요 결과

• DGT 알고리즘은 글로벌 목적함수의 강한 볼록성과 균형 잡힌, 강하게 연결된 통신 그래프 조건 하에서 선형 수렴를 달성한다.
• 충분히 작은 양의 단계 크기에서 시스템 행렬의 스펙트럼 반경이 1보다 작으며, 이는 선형 수렴를 보장한다.
• 알고리즘은 국소 통신과 기울기 추적을 통해 각 에이전트가 글로벌 결정 변수 평균을 추정할 수 있도록 한다.
• 수치적 결과는 모든 에이전트의 변수가 빠르게 최적 위치로 수렴하고, 추정된 평균이 진짜 최적 평균으로 수렴함을 보여준다.
• 각 에이전트는 최적의 질량중심(모든 에이전트 위치의 평균)을 정확히 추적하며, 알고리즘의 효과성을 확인한다.