[논문 리뷰] Distributed Nonconvex Constrained Optimization over Time-Varying Digraphs

Gesualdo Scutari, Ying Sun|arXiv (Cornell University)|2018. 09. 04.

Distributed Control Multi-Agent Systems인용 수 4

한 줄 요약

이 논문은 시간에 따라 변화하는 방향성 네트워크에서 비볼록 제약 최적화를 위한 분산 알고리즘을 제안하며, 연속적인 볼록 근사와 왜곡된 푸시-합 공유를 결합하여 기울기를 추적한다. 고정된 스텝 사이즈를 사용할 경우 하위선형 수렴를 확립하고, 감소하는 스텝 사이즈를 사용할 경우 정류점으로의 점진적 수렴을 보장하며, 유계 기울기 가정 없이 비볼록, 비연속, 제약이 있는 문제를 다룬다.

ABSTRACT

This paper considers nonconvex distributed constrained optimization over networks, modeled as directed (possibly time-varying) graphs. We introduce the first algorithmic framework for the minimization of the sum of a smooth nonconvex (nonseparable) function--the agent's sum-utility--plus a Difference-of-Convex (DC) function (with nonsmooth convex part). This general formulation arises in many applications, from statistical machine learning to engineering. The proposed distributed method combines successive convex approximation techniques with a judiciously designed perturbed push-sum consensus mechanism that aims to track locally the gradient of the (smooth part of the) sum-utility. Sublinear convergence rate is proved when a fixed step-size (possibly different among the agents) is employed whereas asymptotic convergence to stationary solutions is proved using a diminishing step-size. Numerical results show that our algorithms compare favorably with current schemes on both convex and nonconvex problems.

연구 동기 및 목표

• 시간에 따라 변화하는 방향성 그래프에서 비볼록 제약 최적화를 위한 첫 번째 분산 알고리즘을 개발하는 것.
• 부드럽지 않은 비볼록 합유용과 볼록 함수의 차분(DC) 정규화 항에 더해 비연속 볼록 부분을 포함하는 일반적인 문제 구조를 다루는 것.
• 제약 집합에서 기울기가 유계라는 가정이 없는 수렴을 가능하게 하는 것. 이는 이전 연구에서 흔한 제한 사항이다.
• 실제 구현 조건을 고려하여 고정 및 감소하는 스텝 사이즈 모두를 지원하는 것.
• 고정된 스텝 사이즈를 사용할 경우 하위선형 수렴에 대한 이론적 보장을 제공하고, 감소하는 스텝 사이즈를 사용할 경우 정류점으로의 점진적 수렴을 보장하는 것.

제안 방법

• 비볼록성 문제의 처리를 위해 반복적으로 비볼록 부분을 볼록 대체함수로 근사하는 연속적인 볼록 근사(Successive Convex Approximation, SCA) 기법을 사용한다.
• 에이전트 간의 분산적 상호작용을 통해 합유용의 부드러운 부분의 기울기를 추적하기 위해 왜곡된 푸시-합 공유 메커니즘을 설계한다.
• 시간에 따라 변화하는 방향성 그래프(digraphs)를 기반으로 작동하여 비대칭적이고 동적으로 변화하는 통신 링크를 허용한다.
• 네트워크 토폴로지 변화를 고려하고 시간에 따라 변화하는 연결성에도 불구하고 수렴을 유지하는 공유 기반 기울기 추적 메커니즘을 통합한다.
• 비볼록, 비연속, 제약이 있는 문제에 대해 수렴 분석을 위해 새로운 리아푸노프 유사 함수를 도입한다.
• 고정 및 감소하는 스텝 사이즈를 모두 지원하며, 각 경우에 맞는 이론적 수렴 분석을 제공한다.

실험 결과

연구 질문

• RQ1 시간에 따라 변화하는 방향성 그래프에서 비볼록, 제약이 있는 최적화 문제에 대해 분산 알고리즘이 정류점으로 수렴할 수 있는가?
• RQ2 비볼록 목표 함수와 비연속 정규화를 가진 분산 환경에서 기울기 추적을 효과적으로 구현할 수 있는가?
• RQ3 목표 함수의 (부분)기울기가 균일하게 유계가 아니면 어떤 수렴 보장을 확보할 수 있는가?
• RQ4 고정된 스텝 사이즈를 사용할 경우 분산 비볼록 환경에서 하위선형 수렴를 달성할 수 있는가?
• RQ5 기존 방법과 비교해 볼 때, 이 방법은 볼록 및 비볼록 문제 모두에서 수렴 속도와 성능 측면에서 어떻게 다른가?

주요 결과

• 다른 에이전트들 간에 서로 다른 스텝 사이즈를 사용하더라도 고정된 스텝 사이즈를 사용할 경우 알고리즘이 하위선형 수렴 속도를 달성한다.
• 감소하는 스텝 사이즈를 사용할 경우 정류점으로의 점진적 수렴이 증명되며, 온건한 가정 하에 전역 수렴을 보장한다.
• 제약 집합에서 기울기가 유계라는 가정이 필요 없어지며, 이는 이전의 분산 비볼록 최적화 연구에서 흔한 가정을 완화한다.
• 수치적 결과는 알고리즘이 볼록 및 비볼록 문제 모두에서 기존 방법보다 수렴 속도와 해의 품질 측면에서 뛰어나다는 것을 보여준다.
• 이론적 분석은 비볼록, 비연속, 제약이 있는 문제에 특화된 새로운 리아푸노프 유사 함수에 기반하며, 일반 조건 하에서도 수렴 증명이 가능하다.
• 왜곡된 푸시-합 메커니즘은 시간에 따라 변화하는 디그래프에서 합유용의 부드러운 부분의 기울기를 분산적이고 강건한 방식으로 성공적으로 추적한다.