[논문 리뷰] How is Distributed ADMM Affected by Network Topology?

Guilherme França, José Bento|arXiv (Cornell University)|2017. 10. 02.

Distributed Control Multi-Agent Systems참고 문헌 44인용 수 20

한 줄 요약

이 논문은 임의의 그래프에서 비강력-볼록 공준 문제에 대해 분산 과잉완화 ADMM의 수렴 속도를 완전히 특성화하며, 이 속도가 그래프의 무작위 걷기 전이 행렬의 두 번째로 큰 고유값에 명시적으로 의존함을 보여준다. ADMM가 경사 하강법보다 적어도 같은 속도로 수렴하며, 수렴 시간에서 제곱근 속도 향상이 있다는 추측을 증명한다. 이는 마르코프 체인 리프팅이 혼합을 가속화하지 않는 그래프에서도 성립한다.

ABSTRACT

When solving consensus optimization problems over a graph, there is often an explicit characterization of the convergence rate of Gradient Descent (GD) using the spectrum of the graph Laplacian. The same type of problems under the Alternating Direction Method of Multipliers (ADMM) are, however, poorly understood. For instance, simple but important non-strongly-convex consensus problems have not yet being analyzed, especially concerning the dependency of the convergence rate on the graph topology. Recently, for a non-strongly-convex consensus problem, a connection between distributed ADMM and lifted Markov chains was proposed, followed by a conjecture that ADMM is faster than GD by a square root factor in its convergence time, in close analogy to the mixing speedup achieved by lifting several Markov chains. Nevertheless, a proof of such a claim is is still lacking. Here we provide a full characterization of the convergence of distributed over-relaxed ADMM for the same type of consensus problem in terms of the topology of the underlying graph. Our results provide explicit formulas for optimal parameter selection in terms of the second largest eigenvalue of the transition matrix of the graph's random walk. Another consequence of our results is a proof of the aforementioned conjecture, which interestingly, we show it is valid for any graph, even the ones whose random walks cannot be accelerated via Markov chain lifting.

연구 동기 및 목표

• 비강력-볼록 공준 문제에서 기반 네트워크의 구조가 분산 과잉완화 ADMM의 수렴 속도에 어떻게 영향을 미치는지 이해하기.
• 동일한 공준 문제에서 ADMM의 수렴 속도를 분산 경사 하강법(GD)의 수렴 속도와 비교하기.
• ADMM 수렴이 리프팅된 마르코프 체인과 연결된 추측을 해결하기. 이 추측은 GD에 비해 제곱근 속도 향상을 암시한다.
• 특히 그래프의 무작위 걷기 전이 행렬의 두 번째로 큰 고유값을 중심으로, 그래프 스펙트럼 성질에 기반한 최적 알고리즘 매개변수의 명시적 공식 유도하기.

제안 방법

• 에지 간의 제곱 차이의 합을 최소화하는 방식으로 공준 문제를 설정함으로써 분산 평균화에 대응한다.
• 그래프의 무작위 걷기 전이 행렬의 스펙트럼 성질을 사용하여 과잉완화 ADMM의 渐近 수렴 속도를 분석한다.
• 무작위 걷기 행렬의 고유값과 스펙트럼 간격을 바탕으로 ADMM 반복 행렬의 두 번째로 큰 고유값에 대한 정확한 표현을 유도한다.
• 복소 고유값 분석을 통해 지배적인 수렴 모드를 식별하고, 과잉완화 매개변수 γ와 스펙트럼 반경 ρ를 최적화하여 수렴 속도를 최소화한다.
• 그래프 라플라시안의 최대 고유값을 사용하여 GD 수렴 속도에 대한 근사치를 유도하고, 이를 스펙트럼 간격 δ와 연결한다.
• ADMM와 GD의 수렴 속도를 연결하는 부등식을 수립하며, δ에 대한 점근 전개를 통해 추측된 제곱근 속도 향상을 증명한다.

실험 결과

연구 질문

• RQ1 분산 과잉완화 ADMM의 수렴 속도는 기반 그래프의 구조에 어떻게 의존하는가?
• RQ2 ADMM가 GD에 비해 수렴 시간에서 제곱근 속도 향상을 달성한다는 추측이 일반 그래프에 대해 공식적으로 증명될 수 있는가?
• RQ3 그래프의 스펙트럼 간격에 대해 최적의 과잉완화 매개변수 γ와 스펙트럼 반경 ρ는 무엇인가?
• RQ4 마르코프 체인 리프팅이 혼합을 가속화하지 않는 그래프에서도 ADMM의 속도 향상이 유지되는가?
• RQ5 그래프의 무작위 걷기 스펙트럼 간격 δ에 대해 ADMM와 GD의 수렴 속도는 정량적으로 어떻게 비교되는가?

주요 결과

• 분산 과잉완화 ADMM의 최적 수렴 속도는 무작위 걷기 전이 행렬의 두 번째로 큰 고유값에 의해 결정되며, 최적 매개변수에 대한 명시적 공식이 도출되었다.
• 논문은 ADMM가 GD보다 적어도 같은 속도로 수렴하며, 수렴 시간에서 제곱근 속도 향상이 있다는 추측을 증명한다. 즉, (1−τ_A^*)² ≈ 2δ(1−o(√δ)) 및 (1−τ_G^*) ≥ (1−δ)/(1+δ)이며, 이로부터 (1−τ_A^*)² ≥ C(1−τ_G^*)를 유도할 수 있으며, 여기서 C=1−O(√δ)이다.
• ADMM의 수렴 속도는 τ_A^* = 1−√(2δ)+2δ+O(δ^{3/2})로 유계되며, 이는 스펙트럼 간격 δ에 대해 제곱근 의존성을 보여주며, 이는 GD의 선형 의존성 대비 제곱근 개선을 암시한다.
• 최적의 과잉완화 매개변수 γ^*는 γ^* = 4 / (3 + √((2−ρ^*)/(2+ρ^*)))로 유도되며, 여기서 ρ^* = 2√(1−(ω^*)²)이고, ω^*는 무작위 걷기 행렬의 두 번째로 큰 고유값이다.
• 속도 향상 효과는 마르코프 체인 리프팅이 혼합을 가속화하지 않는 그래프를 포함한 모든 그래프에서 유효하며, 이는 ADMM의 속도 향상이 리프팅에 의존하는 것이 아니라 본질적인 스펙트럼 성질에 기반함을 보여준다.
• 수렴 속도가 주로 그래프의 차수 변동에 영향을 받지 않으며, 최대와 최소 차수의 비율 ∆는 고차항 보정 항목에만 나타난다.