[논문 리뷰] Exponentially Convergent Algorithm Design for Constrained Distributed Optimization via Non-smooth Approach

Weijian Li, Xianlin Zeng외 2명|arXiv (Cornell University)|2020. 01. 02.

Distributed Control Multi-Agent Systems참고 문헌 32인용 수 6

한 줄 요약

이 논문은 비연속 목적 함수를 갖는 제약 최적화를 위한 새로운 분산 연속시간 알고리즘을 제안한다. 비연속 방법을 통해 미분 포함 및 정확한 페널티 재구성 방식을 사용하며, 강凸 문제에 대해 최적 해로의 지수 수렴을 달성한다. 이는 이 설정에서 처음으로 이러한 결과를 이룬다.

ABSTRACT

We consider minimizing a sum of non-smooth objective functions with set constraints in a distributed manner. As to this problem, we propose a distributed algorithm with an exponential convergence rate for the first time. By the exact penalty method, we reformulate the problem equivalently as a standard distributed one without consensus constraints. Then we design a distributed projected subgradient algorithm with the help of differential inclusions. Furthermore, we show that the algorithm converges to the optimal solution exponentially for strongly convex objective functions.

연구 동기 및 목표

• 비연속 목적 함수를 포함한 제약 최적화를 위한 지수 수렴을 보장하는 분산 알고리즘을 설계하기.
• 이전 방법들이 부분선형 또는 $O(1/t)$ 수렴률을 달성한 바 있는 바, 국소적 집합 제약 조건이 있는 분산 최적화에서 지수 수렴을 달성하는 데 도전하기.
• 이중 변수를 도입하지 않고 공감 제약 조건을 제거하기 위해 정확한 페널티 방법을 사용하여 계산 복잡도를 감소시키기.
• 비연속 동역학을 다룰 수 있도록 미분 포함 및 리아푸노프 안정성 분석을 활용한 엄밀한 수렴 보장을 수립하기.

제안 방법

• 이중 변수가 필요 없도록 정확한 페널티 방법을 사용하여 원래의 제약 문제를 동치의 공감 없음 형태로 재구성하기.
• 제약 집합의 탄성 원소에 대한 미분 가능성을 갖는 투영 연산자를 사용한 투영된 부분구배 역학 기반의 분산 연속시간 알고리즘 설계하기.
• 비연속 목적 함수를 다룰 수 있도록 부분구배 역학을 모델링하기 위해 미분 포함을 활용하기.
• 로컬 제약 집합에 적응하는 시간에 따라 변화하는 투영 연산자를 도입하여 각 단계에서의 탈진성 보장하기.
• 강凸성과 메트릭 하위정규성 가정을 활용하여 리아푸노프 안정성 이론을 적용하여 지수 수렴을 증명하기.
• 고정 단계 크기를 유지하면서 $\mathcal{O}(\alpha)$ 근사 정확도를 보존하는 에이러리 이산화를 사용한 수치 구현하기.

실험 결과

연구 질문

• RQ1 국소적 집합 제약 조건이 있는 비연속, 제약 최적화 문제에 대해 분산 알고리즘이 지수 수렴을 달성할 수 있는가?
• RQ2 최적성은 유지하면서 이중 변수를 도입하지 않고 공감 제약 조건을 어떻게 제거할 수 있는가?
• RQ3 미분 가능 투영 연산자가 탈진성 확보 및 수렴 가속화에 어떤 역할을 하는가?
• RQ4 비연속성에도 불구하고 투영된 부분구배 역학이 어떤 조건에서 지수 수렴하는가?
• RQ5 제안된 알고리즘은 이 클래스의 문제에 대해 기존의 원-이중 방법보다 더 계산 효율적인가?

주요 결과

• 제안된 알고리즘은 강凸 목적 함수에 대해 최적 해로의 지수 수렴을 달성하며, $V(t) \leq V(0)e^{-\beta t}$를 만족한다. 여기서 $\beta$는 강凸성 매개변수이다.
• 이 알고리즘은 집합 제약 조건이 있는 분산 비연속 최적화에서 지수 수렴을 달성한 최초의 사례로, 이전의 $O(1/\sqrt{k})$ 및 $O(1/t)$ 수렴률을 초월한다.
• 정확한 페널티 방법은 공감 제약 조건을 성공적으로 제거하여 설계를 단순화하고 통신 및 계산 오버헤드를 감소시켰다.
• 수치 시뮬레이션은 리아푸노프 함수 $V(t)$의 수렴성과 지수 감쇠를 확인하였으며, $\log(V(t))$의 시간에 따른 선형 감소로 나타났다.
• 알고리즘은 부분구배 역학을 통해 비연속 목적 함수를 처리하고, 제약 집합의 탄성 원소에 대한 투영을 통해 탈진성을 유지한다.
• 네트워크 토폴로지에 대해 강건함을 보였으며, 각각 4명과 30명의 에이전트를 가진 별형 및 순환 그래프에서 이를 입증하였다.