[논문 리뷰] On the Convergence Analysis of Asynchronous Distributed Quadratic Programming via Dual Decomposition

Kooktae Lee, Raktim Bhattacharya|arXiv (Cornell University)|2015. 06. 17.

Stochastic Gradient Optimization Techniques참고 문헌 28인용 수 6

한 줄 요약

이 논문은 이중 분해를 사용한 이방향 분산 2차 계획 문제(QP)에서 수렴성과 수렴 속도를 분석하기 위해 스위치 시스템 프레임워크를 제안한다. 이방향 업데이트를 하위계 사이의 랜덤 스위칭으로 모델링함으로써, 저자들은 평균 제곱 수렴 조건을 확립하고 수렴 속도에 대한 해석적 표현을 유도하며, 확률적 이방향 방법이 OpenMP 구현에서 동기 방법보다 최대 5.81배 빠를 수 있음을 보여준다.

ABSTRACT

In this paper, we analyze the convergence as well as the rate of convergence of asynchronous distributed quadratic programming (QP) with dual decomposition technique. In general, distributed optimization requires synchronization of data at each iteration step due to the interdependency of data. This synchronization latency may incur a large amount of waiting time caused by an idle process during computation. We aim to attack this synchronization penalty in distributed QP problems by implementing asynchronous update of dual variable. The price to pay for adopting asynchronous computing algorithms is unpredictability of the solution, resulting in a tradeoff between speedup and accuracy. Thus, the convergence to an optimal solution is not guaranteed owing to the stochastic behavior of asynchrony. In this paper, we employ the switched system framework as an analysis tool to investigate the convergence of asynchronous distributed QP. This switched system will facilitate analysis on asynchronous distributed QP with dual decomposition, providing necessary and sufficient conditions for the mean square convergence. Also, we provide an analytic expression for the rate of convergence through the switched system, which enables performance analysis of asynchronous algorithms as compared with synchronous case. To verify the validity of the proposed methods, numerical examples are presented with an implementation of asynchronous parallel QP using OpenMP.

연구 동기 및 목표

• 병렬 계산에서 대기로 인한 동기화 손실을 해결하기 위해.
• 확률적 이방향성 하에서 분산 QP의 이중 분해 수렴 행동을 분석하기 위해.
• 대규모 이방향 알고리즘을 효율적으로 분석할 수 있는 계산적으로 효율적인 프레임워크를 제공하기 위해.
• 수렴 속도에 대한 해석적 표현을 유도하고, 동기, 결정적 이방향, 확률적 이방향 방법 간의 성능를 비교하기 위해.
• OpenMP 기반 수치 구현을 통해 이론적 결과를 검증하기 위해.

제안 방법

• 이방향 이중 업데이트 과정을 랜덤 스위칭 논리를 갖는 스위치 동적 시스템으로 모델링하기 위해.
• 스위치 시스템 프레임워크를 사용해 이중 변수의 평균 제곱 수렴을 위한 필요 및 충분 조건을 도출하기 위해.
• 기존의 q^N개의 스위칭 모드를 q개로 줄이는 데에 효과적인 새로운 알고리즘(알고리즘 1)을 적용하여 계산 복잡도를 크게 감소시키기 위해.
• 스위치 시스템의 전이 행렬의 스펙트럼 반경을 계산하여 평균 제곱 수렴 여부를 검증하기 위해.
• 세 가지 방법(동기, 결정적 이방향, 확률적 이방향)에 대해 수렴 속도의 상한을 도출하기 위해.
• OpenMP를 사용해 이방향 분산 QP를 구현하고, 다양한 방법 간의 계산 시간과 스피드업을 비교하기 위해.

실험 결과

연구 질문

• RQ1 분산 QP에서 이방향 이중 분해가 평균 제곱 수렴하는 조건은 무엇인가?
• RQ2 이방향 알고리즘의 수렴 속도는 동기 및 결정적 이방향 방법과 비교해 어떻게 되는가?
• RQ3 대규모 이방향 분산 QP 문제를 위한 계산적으로 효율적인 분석 프레임워크를 개발할 수 있는가?
• RQ4 확률적 이방향 방법을 사용할 경우 동기 방법 대비 성능 향상은 어느 정도인가?
• RQ5 스레드 수가 동기 및 이방향 방법의 확장성에 어떻게 영향을 미치는가?

주요 결과

• 확률적 이방향 알고리즘은 스펙트럼 반경 0.6147을 통해 평균 제곱 수렴 속도를 확보하며, 수렴을 확인한다.
• 8개의 스레드를 사용할 경우, 순차 계산 대비 최대 5.81배 빠르고, 동기 방법 대비 2.26배 빠르다.
• 제안된 알고리즘은 스위칭 모드 수를 820,000개에서 8개로 줄여 효율적인 수렴 분석을 가능하게 한다.
• 수렴 속도 분석 결과, 확률적 이방향 방법은 동기 방법 대비 최대 5배 빠르고, 결정적 이방향 방법 대비 2.5배 빠르다.
• 스레드 수가 증가함에 따라 동기 방법에서는 성능 저하가 발생하지만, 이방향 방법 둘 다 지속적인 스피드업을 보인다.
• OpenMP 기반 수치 결과는 확률적 이방향 방법이 가장 빨리 수렴하며 가장 높은 스피드업을 달성함을 확인한다.