[논문 리뷰] Online Distributed ADMM on Networks

Saghar Hosseini, Airlie Chapman외 1명|arXiv (Cornell University)|2014. 12. 22.

Distributed Control Multi-Agent Systems참고 문헌 34인용 수 4

한 줄 요약

이 논문은 시간에 따라 변화하는 국소 비용과 선형 공감 제약 조건 하에서 복합 볼록 목적 함수를 최적화하기 위해 네트워크화된 에이전트를 위한 온라인 분산 ADMM 알고리즘을 제안한다. 이중 평균화와 분산 경사 하강법을 조합함으로써, 네트워크 구조와 제약 조건 조건 수치에 따라 의존하는 하위선형 사회적 회귀 한계를 달성하며, 형성 확보 응용 사례에서 검증된다.

ABSTRACT

This paper examines online distributed Alternating Direction Method of Multipliers (ADMM). The goal is to distributively optimize a global objective function over a network of decision makers under linear constraints. The global objective function is composed of convex cost functions associated with each agent. The local cost functions, on the other hand, are assumed to have been decomposed into two distinct convex functions, one of which is revealed to the decision makers over time and one known a priori. In addition, the agents must achieve consensus on the global variable that relates to the private local variables via linear constraints. In this work, we extend online ADMM to a distributed setting based on dual-averaging and distributed gradient descent. We then propose a performance metric for such online distributed algorithms and explore the performance of the sequence of decisions generated by the algorithm as compared with the best fixed decision in hindsight. This performance metric is called the social regret. A sub-linear upper bound on the social regret of the proposed algorithm is then obtained that underscores the role of the underlying network topology and certain condition measures associated with the linear constraints. The online distributed ADMM algorithm is then applied to a formation acquisition problem demonstrating the application of the proposed setup in distributed robotics.

연구 동기 및 목표

• 시간에 따라 변화하는 비용 함수를 가진 에이전트가 공유 변수에 대해 공감을 이룰 수 있는 네트워크에서 분산 온라인 최적화 알고리즘을 개발하는 것.
• 온라인 결정과 과거에서 최고의 고정 결정을 비교하는 데 사용되는 새로운 지표인 사회적 회귀를 사용하여 성능를 분석하는 것.
• 네트워크 구조와 제약 조건의 조건 수치가 알고리즘 수렴 및 회귀에 미치는 영향을 정량화하는 것.
• 로컬 원시 변수나 비용 함수를 공유하지 않고 이중 변수만 교환함으로써 비밀 유지가 가능한 분산 결정을 가능하게 하는 것.
• 분산 로봇에서의 형성 확보 문제를 통해 적용 가능성을 입증하는 것.

제안 방법

• 알고리즘은 시간에 따라 공개되는 온라인 비용 함수를 다룰 수 있도록 ADMM를 확장하면서도 분산 계산을 유지하기 위해 이중 평균화를 사용한다.
• 각 에이전트는 국소 비용과 이중 변수에 기반한 투영 경사 하강 단계를 사용하여 자신의 국소 원시 변수를 업데이트한다.
• 이중 변수는 이웃 간에만 정보를 교환함으로써 분산 경사 하강법에 의해 업데이트되며, 이는 프라이버시를 유지하는 데 기여한다.
• 모든 에이전트에서 평균 원시 변수 θₜ를 추적하여 공감을 보장하며, 네트워크 혼합 성질을 사용하여 수렴성을 경계한다.
• 리아푸노프 유사 분석을 통해 네트워크 행렬 P의 스펙트럼 성질과 제약 조건의 조건 수치를 포함하는 하위선형 회귀 경계를 유도한다.
• 알고리즘은 에이전트가 동적 비용 함수 하에서 위치와 속도를 공동으로 최적화하는 형성 확보 문제에 적용된다.

실험 결과

연구 질문

• RQ1 시간에 따라 변화하는 국소 비용과 공감 제약 조건이 있는 분산 네트워크 환경에서 온라인 ADMM를 어떻게 확장할 수 있는가?
• RQ2 분산 시스템에서 온라인 결정과 후회 최적 결정 간의 트레이드오프를 가장 잘 캡처하는 성능 지표는 무엇인가?
• RQ3 네트워크 구조와 제약 조건의 조건 수치는 분산 온라인 알고리즘의 수렴 속도와 회귀에 어떤 영향을 미치는가?
• RQ4 이중 변수만 공유함으로써 분산 온라인 최적화에서 프라이버시를 유지할 수 있는가?
• RQ5 일반적인 볼록 제약 조건 하에서 분산 온라인 ADMM 알고리즘이 달성할 수 있는 이론적 하위선형 회귀 경계는 무엇인가?

주요 결과

• 표준 가정 하에서 사회적 회귀에 대한 하위선형 상한 경계가 확립되었으며, 이는 O(√T)로 스케일링되며 네트워크 스펙트럼 갭과 제약 조건의 조건 수치에 의존한다.
• 회귀 경계는 네트워크 혼합 행렬 P의 두 번째로 큰 특이값 σ₂(P)를 명시적으로 포함하여 네트워크 영향이 수렴에 미치는 영향을 정량화한다.
• 알고리즘은 선형 제약 조건의 조건 수치에 따라 회귀 경계에 의존하며, 악화된 조건 수치는 더 높은 회귀를 초래한다.
• 이중 평균화의 사용은 프라이버시 유지에 기여하며, 로컬 원시 변수나 비용 함수를 공유하지 않고도 이중 변수만 교환하기 때문이다.
• 이론적 회귀 경계는 형성 확보 사례 연구에서 검증되었으며, 분산 로봇에서의 실용성과 확장성을 입증한다.
• 시간에 따라 변화하는 비용 하에서도 O(1/√T)의 수렴 속도를 유지하며, 중심 집중형 온라인 최적화에서 알려진 속도와 일치한다.