[논문 리뷰] Superlinearly Convergent Asynchronous Distributed Network Newton Method

Fatemeh Mansoori, Ermin Wei|arXiv (Cornell University)|2017. 05. 10.

Distributed Control Multi-Agent Systems참고 문헌 28인용 수 7

한 줄 요약

이 논문은 페널티 부여된 공유 최적화 문제에 대해 거의 확실한 전역 선형 수렴성과 기대값 기반 국소 초선형(이차) 수렴성을 달성하는 비동기 분산 네트워크 뉴턴 방법을 제안한다. 헤시안 역행렬을 행렬 분할을 통해 근사하고, 최적값에 의존하지 않는 새로운 스텝사이즈 규칙을 사용함으로써, 이전의 비동기 방법들이 선형 수렴성 또는 유한 지연을 요구하는 한계를 극복한다.

ABSTRACT

The problem of minimizing a sum of local convex objective functions over a networked system captures many important applications and has received much attention in the distributed optimization field. Most of existing work focuses on development of fast distributed algorithms under the presence of a central clock. The only known algorithms with convergence guarantees for this problem in asynchronous setup could achieve either sublinear rate under totally asynchronous setting or linear rate under partially asynchronous setting (with bounded delay). In this work, we built upon existing literature to develop and analyze an asynchronous Newton based approach for solving a penalized version of the problem. We show that this algorithm converges almost surely with global linear rate and local superlinear rate in expectation. Numerical studies confirm superior performance against other existing asynchronous methods.

연구 동기 및 목표

• 네트워크 상의 국소 볼록 함수 합을 최소화하기 위한 중앙 시계에 의존하지 않는 비동기 분산 최적화 알고리즘을 개발한다.
• 특히 임의의 지연이 존재하는 상황에서도 기존의 비동기 방법보다 더 빠른 수렴성을 달성한다.
• 이차 방법(뉴턴 유형)을 이론적 수렴 보장과 함께 완전히 비동기 설정으로 확장한다.
• 스텝사이즈 선택에서 알려지지 않은 최적 함수값에 대한 의존성을 제거함으로써 실용성을 향상시킨다.
• 비동기 ADMM 및 가소 알고리즘과의 수치 실험을 통해 더 빠른 수렴 속도를 입증한다.

제안 방법

• 알고리즘은 공유 문제의 페널티 형태를 사용하여, 이차 공유 항과 국소 볼록 함수의 조합을 최소화한다.
• 뉴턴 스텝의 분산 계산을 가능하게 하기 위해, 헤시안 역행렬을 행렬 분할 기법으로 근사한다.
• 최적 함수값을 알지 못해도 되는 새로운 스텝사이즈 규칙을 도입하여 실용적 구현을 향상시킨다.
• 에이전트들이 임의의 지연을 가진 채로 독립적으로 업데이트하는 완전히 비동기 방식으로 작동한다.
• 수렴 분석은 대각 스케일링 행렬을 포함한 변환된 변수를 활용하여 동역학을 분리하고 오차 감쇠를 분석한다.
• 이론적 보장으로는 거의 확실한 수렴성과 유한 시간 이후 기대값 기반 국소 이차 수렴 속도가 포함된다.

실험 결과

연구 질문

• RQ1 완전히 비동기적인 네트워크 환경에서 임의의 지연이 존재하는 상황에서도 분산 뉴턴 유형 방법이 초선형 수렴성을 달성할 수 있는가?
• RQ2 비동기 환경에서 헤시안 역행렬을 효율적이고 안정적으로 분산적으로 근사할 수 있는가?
• RQ3 알려지지 않은 최적 함수값에 의존하지 않는 스텝사이즈 규칙을 설계할 수 있는가?
• RQ4 알고리즘의 수렴 행동은 전역 선형 및 국소 초선형 수렴 속도 측면에서 어떻게 나타나는가?
• RQ5 실제로 비동기 ADMM 및 가소 알고리즘과 비교할 때, 제안된 방법은 어떻게 성능을 냈는가?

주요 결과

• 제안된 비동기 네트워크 뉴턴 방법은 기대값 기반 거의 확실한 전역 선형 수렴성을 달성한다.
• 유한 시간 이후, 오차 감쇠 속도가 $ \mathbb{E}[\|D(r-1)^{1/2}(x(r)-x^*)\|] \leq C \cdot (\text{error})^{2^{r-\bar{t}}} $ 형태임을 보여주며, 국소 초선형(이차) 수렴 속도를 기대값 기반으로 달성한다.
• 스텝사이즈 규칙이 최적 함수값에 의존하지 않아 이전 방법보다 더 실용적이다.
• 수치 결과는 비동기 네트워크 뉴턴 방법이 비동기 ADMM 및 가소 알고리즘보다 수렴 속도에서 뚜렷한 우월성을 보임을 보여준다.
• 이차 단계의 수렴 이웃 영역은 공백이 아니며, 초기 최적해와의 거리 $ F(x(0)) - F^* $ 에 따라 결정된다.
• 이전 방법들이 선형 수렴성을 확보하기 위해 유한 지연을 요구하는 것과 달리, 이 알고리즘은 완전한 비동기 환경에서도 이론적 보장을 유지한다.