[논문 리뷰] A Distributed, Asynchronous and Incremental Algorithm for Nonconvex Optimization: An ADMM Based Approach

Mingyi Hong|arXiv (Cornell University)|2014. 12. 18.

Sparse and Compressive Sensing Techniques참고 문헌 35인용 수 31

한 줄 요약

이 논문은 비볼록 비스무스 최적화를 위한 이방향, 분산형, 점진적 ADMM 알고리즘을 제안하며, 유한한 이방향성 조건 하에서 정류점 해로의 수렴을 보장한다. 이는 비볼록성과 이방향성을 동시에 다룰 수 있는 최초의 ADMM 기반 방법이며, 스텝사이즈와 지연 상한이 적절히 설정될 경우 수렴이 보장된다.

ABSTRACT

The alternating direction method of multipliers (ADMM) has been popular for solving many signal processing problems, convex or nonconvex. In this paper, we study an asynchronous implementation of the ADMM for solving a nonconvex nonsmooth optimization problem, whose objective is the sum of a number of component functions. The proposed algorithm allows the problem to be solved in a distributed, asynchronous and incremental manner. First, the component functions can be distributed to different computing nodes, who perform the updates asynchronously without coordinating with each other. Two sources of asynchrony are covered by our algorithm: one is caused by the heterogeneity of the computational nodes, and the other arises from unreliable communication links. Second, the algorithm can be viewed as implementing an incremental algorithm where at each step the (possibly delayed) gradients of only a subset of component functions are update d. We show that when certain bounds are put on the level of asynchrony, the proposed algorithm converges to the set of stationary solutions (resp. optimal solutions) for the nonconvex (resp. convex) problem. To the best of our knowledge, the proposed ADMM implementation can tolerate the highest degree of asynchrony, among all known asynchronous variants of the ADMM. Moreover, it is the first ADMM implementation that can deal with nonconvexity and asynchrony at the same time.

연구 동기 및 목표

• 비볼록성과 비스무스성을 동시에 다룰 수 있는 확장 가능하고 탈중앙화된 환경에서의 분산 최적화 알고리즘을 설계한다.
• 이질적인 계산 노드와 신뢰할 수 없는 통신 링크로 인한 높은 이방향성 조건 하에서도 수렴을 가능하게 한다.
• 지속적으로 갱신되는 부분 집합의 구성 요소 기울기만을 사용하는 점진적 업데이트 메커니즘을 개발한다.
• ADMM를 비볼록 문제로 확장하면서도 이방향성 조건 하에서도 수렴 보장을 유지한다.
• 유한한 지연 조건 하에서 비볼록 환경에서의 이방향 ADMM에 대한 최초의 수렴 분석을 제공한다.

제안 방법

• 유연한 프록시멀 ADMM 프레임워크를 사용하며, 분산 노드 간 이방향으로 이중 및 원래 변수 업데이트를 수행한다.
• 각 노드는 할당된 구성 요소 함수의 지연된 기울기를 사용하여 로컬 변수를 독립적으로 업데이트한다.
• 수렴 안정화를 위해 프록시멀 항을 포함하며, 기울기 평가의 유한한 지연을 허용한다.
• 스텝사이즈가 충분히 크고 노드 간 지연이 유한할 조건 하에서 수렴이 보장된다.
• 스텝사이즈가 충분히 크고 노드 간 지연이 유한할 조건 하에서 수렴이 보장된다.
• 분석은 최대 지연 제약 조건을 통해 이방향성을 제한하며, 비볼록 문제에 대해 정류점 해 집합으로의 수렴을 보장한다.

실험 결과

연구 질문

• RQ1 ADMM는 비볼록 최적화 문제를 분산 및 이방향 환경에서 다룰 수 있는가?
• RQ2 스텝사이즈와 지연 상한에 대해 어떤 조건이 이방향 ADMM의 비볼록 설정에서의 수렴을 보장하는가?
• RQ3 수렴 속도와 지연에 대한 강건성 측면에서, 제안된 알고리즘은 동기 및 부분 이방향 ADMM 변종보다 어떻게 비교되는가?
• RQ4 신뢰할 수 없는 통신 또는 노드 이질성으로 인해 오래된 기울기만 이용 가능한 상황에서도 알고리즘이 수렴을 유지할 수 있는가?
• RQ5 예를 들어 단일 느린 노드 대비 균일한 지연과 같은 다양한 수준의 이방향성은 수렴 성능에 어떤 영향을 미치는가?

주요 결과

• 제안된 Async-PADMM 알고리즘은 스텝사이즈가 충분히 크고 지연이 유한할 경우 비볼록 문제에 대해 정류점 해 집합으로 수렴한다.
• K=10개의 노드에서 실험한 결과, T_k=5일 때 평균 190회 반복이 필요했고(ADMM 대비 525회), 수렴 속도가 뛰어나다.
• 단일 노드가 지연된 경우(T_10=10), Async-PADMM는 183회 반복을 요구했고, ADMM는 914회를 요구하여 극단적인 이방향성에 강건함을 보였다.
• 문제 차원(N=1000)과 정규화 매개변수(λ=100)가 증가함에 따라도 알고리즘은 효과적으로 유지되었으며, Async-PADMM는 325회 이하의 반복을 유지했다.
• Async-PADMM의 수렴 속도는 지연 수준에 크게 의존하지 않으며, ADMM 및 P-ADMM보다 뛰어난 성능을 보였다. 특히 지연 증가에 따라 성능 급격히 저하되는 경향이 없었다.
• 기존의 ADMM 변종들 중에서 가장 높은 이방향성에 대한 내성과 견딜 수 있는 알고리즘이며, 대규모 탈중앙화 및 실시간 응용 분야에 적합하다.