[논문 리뷰] NEXT: In-Network Nonconvex Optimization

Paolo Di Lorenzo, Gesualdo Scutari|arXiv (Cornell University)|2016. 02. 01.

Distributed Control Multi-Agent Systems참고 문헌 49인용 수 4

한 줄 요약

이 논문은 시간에 따라 변화하는 방향성 네트워크에서 분산 비볼록 최적화를 위한 새로운 네트워크 내 알고리즘인 NEXT를 제안한다. 이 알고리즘은 동적 공감을 사용하는 연속적인 볼록 근사 기법을 통해 에이전트들이 국소 함수의 합과 볼록 정규화 항을 공동으로 최소화할 수 있도록 하며, 약한 가정 하에 정적점으로의 수렴을 달성한다.

ABSTRACT

We study nonconvex distributed optimization in multi-agent networks with time-varying (nonsymmetric) connectivity. We introduce the first algorithmic framework for the distributed minimization of the sum of a smooth (possibly nonconvex and nonseparable) function - the agents' sum-utility - plus a convex (possibly nonsmooth and nonseparable) regularizer. The latter is usually employed to enforce some structure in the solution, typically sparsity. The proposed method hinges on successive convex approximation techniques while leveraging dynamic consensus as a mechanism to distribute the computation among the agents: each agent first solves (possibly inexactly) a local convex approximation of the nonconvex original problem, and then performs local averaging operations. Asymptotic convergence to (stationary) solutions of the nonconvex problem is established. Our algorithmic framework is then customized to a variety of convex and nonconvex problems in several fields, including signal processing, communications, networking, and machine learning. Numerical results show that the new method compares favorably to existing distributed algorithms on both convex and nonconvex problems.

연구 동기 및 목표

• 시간에 따라 변화하는, 가능하면 비대칭적인 연결성을 가지는 다중 에이전트 네트워크에서 비볼록 최적화를 위한 분산 알고리즘이 부족한 문제를 해결한다.
• 에이전트들이 자신의 국소 함수와 전역 정규화 항만 알고 있으며, 이격된 이웃 간 통신을 수행하는 환경에서 탈중앙화된 계산을 가능하게 한다.
• 국소 매끄러운 비볼록 함수의 합에 볼록 정규화 항을 더한 것을 분산 환경에서 최소화하기 위한 증명 가능하게 수렴하는 방법을 개발한다.
• 중앙 집중적 조율, 전역 함수에 대한 완전한 지식, 또는 특정 네트워크 구조를 요구하는 이전 방법의 한계를 극복한다.
• 동적 통신 그래프를 가진 분산 네트워크에서 일반적인 비볼록 문제에 대해 정적점으로의 수렴을 확립한다.

제안 방법

• 에이전트들이 국소적으로 최소화하는 매끄러운 비볼록 함수의 합에 전역 볼록 정규화 항을 더한 문제를 닫힘 볼록 집합 위에서 최소화하는 방식으로 분산 비볼록 최적화 문제를 수립한다.
• 에이전트마다 국소적으로 비볼록 목표 함수를 볼록 하위문제로 근사하기 위해 연속적인 볼록 근사(Successive Convex Approximation, SCA)를 적용한다.
• 계산을 분산하기 위해 동적 공감을 사용한다: 에이전트들이 국소 SCA 단계를 수행한 후 이웃과 추정치를 교환하고 평균을 내는 방식이다.
• 수렴을 보장하면서도 하위문제의 정확한 해가 아닌 근사해를 允허하는 감소하는 단계 크기 규칙을 도입한다.
• 정규화 항의 볼록성과 기울기의 리프시츠 연속성을 활용하여 부적합도를 제한하고 수렴을 보장한다.
• 국소 내림걸음 단계와 평균화 연산을 조합하여 네트워크 전반의 일관성을 유지하고 반복값이 정적점으로 향하도록 이끈다.

실험 결과

연구 질문

• RQ1 중앙 집중적 융합 센터가 없이도 시간에 따라 변화하는 방향성 네트워크에서 비볼록 최적화를 위한 분산 알고리즘을 설계할 수 있는가?
• RQ2 네트워크와 목표 함수에 대한 일반적인 가정 하에 제안된 방법이 비볼록 문제의 정적점으로 수렴하는가?
• RQ3 수렴성과 확장성 측면에서 기존의 분산 볼록 및 비볼록 방법과 비교해 본 알고리즘의 성능은 어떠한가?
• RQ4 수렴 보장을 유지하면서도 비분리형 및 비연속 정규화 항을 처리할 수 있는가?
• RQ5 완전히 탈중앙화된 환경에서 알고리즘이 정적점으로 수렴하는 데 필요한 이론적 조건은 무엇인가?

주요 결과

• 표준 가정 하에, 즉 시간에 따라 변화하는 방향성 그래프와 국소 에이전트 지식이 존재하는 조건에서 알고리즘이 비볼록 문제의 정적점으로 점점 수렴함을 입증하였다.
• 하위문제의 해가 정확하지 않더라도 오차가 유한하고 시간이 지남에 따라 감소한다면 수렴이 보장된다.
• 에이전트들의 추정치 평균이 국소 근사와 전역 반복값 간 일관성이 있는 점으로 수렴함을 보장한다.
• 목표 함수 값의 수열은 유한한 극한값으로 수렴하고, 에이전트들의 국소 추정치와 평균 반복값 간의 거리는 점점 0에 수렴한다.
• 신호 처리, 통신, 네트워킹, 기계 학습 분야의 다양한 문제들, 예를 들어 LASSO, 로지스틱 회귀, 행렬 완성 등에 적용 가능하다.
• 수치 결과는 NEXT가 수렴 속도와 해의 품질 측면에서 기존의 분산 알고리즘보다 볼록 및 비볼록 문제 모두에서 뛰어난 성능을 보임을 보여준다.