[논문 리뷰] Decentralized Approximate Newton Methods for In-Network Optimization

Hejie Wei, Zhihai Qu외 3명|arXiv (Cornell University)|2019. 03. 22.

Distributed Control Multi-Agent Systems참고 문헌 30인용 수 1

한 줄 요약

이 논문은 네트워크 내 볼록 최적화를 위한 탈중앙화 근사 뉴턴(DEAN) 방법을 소개한다. 이 방법은 노드들이 국소적 근사 뉴턴 업데이트를 통해 국소 목표 함수의 합을 공동으로 최소화할 수 있도록 한다. 국소 강볼록성 조건 하에서 DEAN은 명시적인 오차 한계를 제공하며 하위최적해로 선형 수렴을 보장하고, 이차 프로그램의 경우 정확한 최적해로 수렴하며, 이는 이전의 이차 방법보다 수렴 속도와 정확도에서 뛰어나다.

ABSTRACT

This paper proposes a class of Decentralized Approximate Newton (DEAN) methods for addressing in-network convex optimization, where nodes in a network seek for a consensus that minimizes the sum of their individual objective functions through local interactions only. The proposed DEAN algorithms allow each node to repeatedly perform a local approximate Newton update, so that the nodes not only jointly track the global Newton direction but also drive each other closer. Under a less restrictive assumption (i.e., local strong convexity) in comparison with the existing second-order methods, the DEAN algorithms enable the nodes to reach a consensus that can be arbitrarily close to the optimum. Moreover, for a particular DEAN algorithm, the nodes linearly converge to a common suboptimal solution with an explicit error bound and we also provide the iteration complexity for the suboptimal solution to achieve any given accuracy. Furthermore, we show that when the problem reduces to a quadratic program, the DEAN algorithms are guaranteed to converge to the exact optimum at a linear rate. Finally, simulations demonstrate the competitive performance of DEAN in convergence speed, accuracy, and efficiency.

연구 동기 및 목표

• 노드들이 국소 상호작용만을 사용하여 국소 목표 함수의 합을 최소화하는 데에 합의를 이끌어내는 네트워크 내 볼록 최적화 문제를 다루기.
• 기존 이차 방법의 한계를 극복하기 위해 전역 강볼록성 가정을 국소 강볼록성 가정으로 완화하기.
• 노드들이 공동으로 글로벌 뉴턴 방향을 추적할 수 있도록 하는 탈중앙화 알고리즘 설계하기.
• 국소 강볼록성 조건 하에서 하위최적해로 선형 수렴을 달성하고 명시적인 오차 한계를 제공하며, 이차 프로그램의 경우 정확한 최적해로 수렴하기.
• 시뮬레이션을 통해 기존 방법들과 비교하여 향상된 수렴 속도, 정확도 및 효율성 확보하기.

제안 방법

• 각 노드가 국소 정보와 이웃 노드와의 상호작용만을 사용하여 반복적으로 국소 근사 뉴턴 업데이트를 수행하는 DEAN 알고리즘의 클래스 제안.
• 중앙 집중적 조율 없이도 노드들이 공동으로 글로벌 뉴턴 방향을 추정하고 추적할 수 있는 탈중앙화 메커니즘 도입.
• 국소 헤시안 근사값을 활용하여 이차 최적화를 가능하게 하면서도 탈중앙화 유지.
• 전역 강볼록성 대신 더 약한 국소 강볼록성 조건 하에서 수렴 보장 수립.
• 특정 DEAN 알고리즘에서 하위최적해의 명시적 오차 한계 유도하여 진짜 최적해와의 거리 정량화.
• 문제가 이차 프로그램으로 축소될 경우 정확한 최적해로 선형 수렴을 증명.

실험 결과

연구 질문

• RQ1 탈중앙화 이차 방법은 전역 강볼록성보다 더 약한 볼록성 조건 하에서도 선형 수렴을 달성할 수 있는가?
• RQ2 네트워크 내 노드들이 국소 정보와 이웃 간 통신만을 사용하여 글로벌 뉴턴 방향을 공동으로 근사할 수 있는가?
• RQ3 DEAN 알고리즘이 도달하는 해의 하위최적성 갭은 무엇이며, 이를 명시적으로 상한으로 제시할 수 있는가?
• RQ4 DEAN 프레임워크는 이차 프로그램의 경우 정확한 최적해로 수렴을 보장하는가?
• RQ5 DEAN의 수렴 속도와 정확도는 기존 탈중앙화 최적화 방법과 비교해 어떻게 다른가?

주요 결과

• 국소 강볼록성 조건 하에서 DEAN 알고리즘은 공통 하위최적해로 선형 수렴을 달성하며, 진짜 최적해와의 거리를 정량화하는 명시적 오차 한계를 제공한다.
• 이차 프로그램의 경우 DEAN 알고리즘은 정확한 최적해로 선형 수렴을 보이며, 이 특수한 경우에 정확한 전역 수렴을 보여준다.
• 주어진 정확도를 달성하기 위한 DEAN 알고리즘의 반복 복잡도가 명시적으로 기술되어 있어 성능 예측이 가능하다.
• 시뮬레이션 결과 DEAN은 기존 방법들보다 수렴 속도, 정확도 및 계산 효율성에서 뛰어나다는 것이 확인되었다.
• 제안된 방법은 전역 강볼록성 요구 조건을 완화하여 더 넓은 범위의 탈중앙화 최적화 문제에 적용 가능하게 한다.
• 탈중앙화 뉴턴 방향 추적 메커니즘은 중앙 집중적 계산이나 전역 정보 없이도 노드 간 효과적인 협업을 가능하게 한다.