[논문 리뷰] Asynchronous Decentralized Successive Convex Approximation

Ye Tian, Ying Sun외 1명|arXiv (Cornell University)|2019. 09. 23.

Distributed Control Multi-Agent Systems참고 문헌 51인용 수 8

한 줄 요약

이 논문은 비볼록 및 볼록 복합 최적화를 위한 비동기 분산 알고리즘인 ASY-DSCA를 제안한다. 이는 방향성 그래프에서 작동하며, 순차적 볼록 근사( successive convex approximation)와 강인한 펌프-합(perturbed push-sum)을 사용해 비동기성과 오래된 정보를 처리한다. 비볼록 문제에 대해는 하위선형 수렴(sublinear convergence)을 달성하고, Luo-Tseng 오차 경계 조건 하에서는 R-선형 수렴(R-linear convergence)을 달성한다. 이 조건은 강볼록성보다 더 약한 조건이다.

ABSTRACT

We study decentralized asynchronous multiagent optimization over networks, modeled as static (possibly directed) graphs. The optimization problem consists of minimizing a (possibly nonconvex) smooth function--the sum of the agents' local costs--plus a convex (possibly nonsmooth) regularizer, subject to convex constraints. Agents can perform their local computations as well as communicate with their immediate neighbors at any time, without any form of coordination or centralized scheduling; furthermore, when solving their local subproblems, they can use outdated information from their neighbors. We propose the first distributed asynchronous algorithm, termed ASY-DSCA, that converges at an R-linear rate to the optimal solution of convex problems whose objective function satisfies a general error bound condition; this condition is weaker than the more frequently used strong convexity, and it is satisfied by several empirical risk functions that are not strongly convex; examples include LASSO and logistic regression problems. When the objective function is nonconvex, ASY-DSCA converges to a stationary solution of the problem at a sublinear rate.

연구 동기 및 목표

• 중앙 집중식 조율 없이 분산 네트워크에서 다중 에이전트 최적화를 위한 증명 가능하게 수렴하는 분산 알고리즘을 개발한다.
• 부드럽지 않은 정규화자와 볼록 제약 조건을 가진 비볼록 및 볼록 복합 문제를 모두 처리한다.
• 에이전트들이 임의의 유한한 지연이 있는 오래된 이웃 정보를 사용해 비동기적으로 업데이트할 수 있도록 한다.
• 강볼록성보다 더 약한 조건인 Luo-Tseng 오차 경계 조건을 만족하는 볼록 문제에 대해 선형 수렴을 달성한다.
• 이전의 동기적 및 조율된 방법들을 완전히 비동기적, 분산된 환경으로 일반화한다.

제안 방법

• 지역 하위문제를 해결하기 위해 순차적 볼록 근사(Sequential Convex Approximation, SCA) 기반의 분산 비동기 알고리즘인 ASY-DSCA를 제안한다.
• 에이전트의 그래디언트 평균을 비동기적으로 추적하기 위해 펌프-합(perturbed push-sum) 프로토콜을 사용하여 비동기성과 지연에 대한 강인성을 확보한다.
• 비볼록 목적함수를 근사하기 위해 서로서프 함수(surrogate functions)를 사용하며, 이로 인해 소프트 스위칭(soft-thresholding) 또는 사영(projection)과 같은 닫힌 형태의 업데이트가 가능해진다.
• 정보 지연과 에이전트 활성화에 대해 온건한 가정을 사용하며, 조율나라 전역 동기화가 필요하지 않다.
• 일반적인 네트워크 구조(방향성 그래프)에서도 수렴을 증명하기 위해 라플라스 함수 분석(Lyapunov function analysis)을 통합한다.
• 볼록 문제의 R-선형 수렴을 확립하기 위해 Luo-Tseng 오차 경계 조건을 적용한다.

실험 결과

연구 질문

• RQ1 중앙 조율 없이 오래된 정보와 비동기 조건에서 분산 알고리즘이 수렴할 수 있는가?
• RQ2 제안된 알고리즘이 비동기성과 유한한 지연 하에서도 비볼록 문제에 대해 수렴성을 유지하는가?
• RQ3 강볼록성이 아닌데도 Luo-Tseng 오차 경계 조건을 만족하는 볼록 문제에 대해 선형 수렴을 달성할 수 있는가?
• RQ4 비볼록 정규화자와 볼록 제약 조건을 가진 복합 목적함수를 분산 네트워크에서 어떻게 처리할 수 있는가?
• RQ5 다양한 문제 유형(비볼록 대비 볼록)에 대해 알고리즘의 수렴 속도는 어떻게 되는가?

주요 결과

• ASY-DSCA는 주어진 비동기 조건 하에서 비볼록 문제에 대해 하위선형 수렴 속도를 달성한다.
• Luo-Tseng 오차 경계 조건을 만족하는 볼록 문제에 대해서는 ASY-DSCA가 R-선형 수렴 속도를 달성한다. 이는 하위선형 수렴보다 빠른 속도이다.
• Luo-Tseng 조건은 강볼록성보다 더 약한 조건이며, LASSO 및 로지스틱 회귀와 같은 주요 머신러닝 문제에서 만족된다.
• 이 알고리즘은 분산 비동기 환경에서 강볼록성이 아닌 이들 유형의 문제에 대해 R-선형 수렴을 증명적으로 달성하는 최초의 알고리즘이다.
• 수렴은 임의의 유한한 지연 하에서도 보장되며, 에이전트 간의 조율이나 마스터 노드의 존재가 필요하지 않다.
• 수렴 속도는 리프시츠 상수, 네트워크 구조, 지연 한계 등 문제 파라미터에 따라 달라지며, 분석 과정에서 명시적인 상한이 도출되었다.