[논문 리뷰] A distributed ADMM-like method for resource sharing under conic constraints over time-varying networks

Necdet Serhat Aybat, Erfan Yazdandoost Hamedani|arXiv (Cornell University)|2016. 11. 22.

Distributed Control Multi-Agent Systems인용 수 6

한 줄 요약

이 논문은 시간에 따라 변화하는 네트워크에서 원뿔 제약 조건 하에 협동적 다중 에이전트 자원 공유를 위한 분산 선형대칭 알고리즘인 DPDA-D를 제안한다. 이 알고리즘은 수렴성을 보장하는 하위최적성, 비가능성, 공감 위반 비율을 갖추고 있어, 동적인 통신 환경에서 효율적인 분산 최적화를 가능하게 한다.

ABSTRACT

We consider cooperative multi-agent resource sharing problems over time-varying communication networks, where only local communications are allowed. The objective is to minimize the sum of agent-specific composite convex functions subject to a conic constraint that couples agents' decisions. We propose a distributed primal-dual algorithm DPDA-D to solve the saddle point formulation of the sharing problem on time-varying (un)directed communication networks; and we show that primal-dual iterate sequence converges to a point defined by a primal optimal solution and a consensual dual price for the coupling constraint. Furthermore, we provide convergence rates for suboptimality, infeasibility and consensus violation of agents' dual price assessments; examine the effect of underlying network topology on the convergence rates of the proposed decentralized algorithm; and compare DPDA-D with a centralized method on the basis pursuit denoising and multi-channel power allocation problems.

연구 동기 및 목표

• 제한된 국소적 통신과 시간에 따라 변화하는 네트워크 구조를 가진 다중 에이전트 시스템에서의 분산 자원 공유 문제에 도전한다.
• 에이전트 간의 원뿔 결합 제약 조건을 포함한 사다리꼴 문제로 자원 공유 문제를 수식화한다.
• 각 에이전트가 국소 변수와 이중 가격에 대한 공감을 유지하면서 복합 볼록 목적함수를 공동으로 최소화할 수 있도록 분산 알고리즘을 설계한다.
• 일반적인 (비)방향성 시간에 따라 변화하는 네트워크에서 하위최적성, 비가능성, 이중 공감 위반에 대한 수렴 속도를 분석한다.
• 실제 문제인 기저 추론 노이즈 제거와 다중채널 전력 할당 문제에서 분산 DPDA-D 알고리즘의 성능을 중심화된 방법과 비교한다.

제안 방법

• 에이전트 간 국소 정보 교환만을 사용하여 시간에 따라 변화하는 (비)방향성 통신 네트워크에서 작동하는 분산 선형대칭 알고리즘(DPDA-D)을 개발한다.
• 에이전트별 볼록 함수와 공통의 원뿔 제약 조건을 포함하는 사다리꼴 문제로 자원 공유 문제를 수식화한다.
• 전역 제약 조건을 분해하기 위해 이중 분해 기법을 사용하여 각 에이전트가 이웃의 정보에 기반해 국소 변수와 이중 가격을 업데이트할 수 있도록 한다.
• 시간에 따라 변화하는 네트워크 구조를 처리하고 변화하는 통신 패tern에도 불구하고 수렴을 보장하기 위해 동적 가중치 기법을 통합한다.
• 선형 최적화를 위한 프록시멀 기반 기법을 사용하여 원본 변수를 업데이트하고, 공감 기반의 이중 업데이트 규칙을 적용하여 이중 가격 추정치를 에이전트 간에 일치시킨다.
• 리아푸노프 분석과 행렬 가중 평균 기법을 활용하여 수렴성과 수렴 속도를 증명한다.

실험 결과

연구 질문

• RQ1 통신 네트워크가 시간에 따라 변화하고 일부 방향성일 수 있는 상황에서 분산 알고리즘이 최적해로 수렴할 수 있는 방법은 무엇인가?
• RQ2 제안된 분산 방법에서 하위최적성, 비가능성, 이중 공감 위반에 대한 수렴 속도는 어떻게 되는가?
• RQ3 기본 네트워크 구조가 DPDA-D 알고리즘의 수렴 속도에 어떤 영향을 미치는가?
• RQ4 실제 자원 할당 문제에서 분산 DPDA-D 알고리즘의 성능은 중심화된 솔버와 비교해 어떻게 되는가?
• RQ5 전체 조율 없이도 동적인 네트워크 조건에서 이중 공감과 원본 타당성을 유지할 수 있는가?

주요 결과

• DPDA-D 알고리즘은 원본-이중 최적해로 수렴하며, 원본 반복 수열은 원본 최적해와 공감되는 이중 가격을 정의하는 점으로 수렴한다.
• 하위최적성, 비가능성, 이중 공감 위반은 반복 횟수 k에 대해 O(1/k) 속도로 수렴한다.
• 수렴 속도는 네트워크의 동적 라플라시안의 스펙트럼 특성에 영향을 받으며, 더 연결되어 있고 조건이 잘 맞는 구조일수록 더 빠른 수렴이 관찰된다.
• 수치 실험 결과 DPDA-D는 기저 추론 노이즈 제거 및 다중채널 전력 할당 문제에서 중심화된 솔버와 유사한 성능을 달성한다.
• 단방향 및 시간에 따라 변화하는 통신 링크 조건에서도 알고리즘이 강인하고 수렴성을 유지하며, 동적 환경에서 표준 ADMM 변형보다 뛰어난 성능을 보인다.
• 이론적 수렴 속도는 실증적으로 검증되었으며, 네트워크 구조의 영향이 알고리즘 성능에 실질적인 영향을 미친다는 것을 입증한다.