[논문 리뷰] Exponential Convergence for Distributed Smooth Optimization Under the Restricted Secant Inequality Condition

Xinlei Yi, Shengjun Zhang외 3명|arXiv (Cornell University)|2019. 09. 07.

Distributed Control Multi-Agent Systems참고 문헌 45인용 수 4

한 줄 요약

이 논문은 제약 조건이 강한 볼록성보다 더 약한 조건인 제한된 세컨드 부등식 조건 하에서 연속시간 분산 원-이중 경사하강법에 대해 지수 수렴을 확립하고, 이의 이산시간 오일러 이산화에 대해 선형 수렴을 보인다. 이는 비볼록 비용 함수와 유일하지 않은 전역 최소화자도 허용하는 강한 볼록성보다 더 약한 가정이다. 결과적으로 이는 볼록성이나 해의 유일성을 요구하지 않는 더 넓은 범위의 분산 미분 가능 최적화 문제에 대해 수렴 보장을 확장한다.

ABSTRACT

This paper considers the distributed smooth optimization problem in which the objective is to minimize a global cost function formed by a sum of local smooth cost functions, by using local information exchange. The standard assumption for proving exponential/linear convergence of first-order methods is the strong convexity of the cost functions, which does not hold for many practical applications. In this paper, we first show that the continuous-time distributed primal-dual gradient algorithm converges to one global minimizer exponentially under the assumption that the global cost function satisfies the restricted secant inequality condition. This condition is weaker than the strong convexity condition since it does not require convexity and the global minimizers are not necessary to be unique. We then show that the discrete-time distributed primal-dual algorithm constructed by using the Euler's approximation method converges to one global minimizer linearly under the same condition. The theoretical results are illustrated by numerical simulations.

연구 동기 및 목표

• 최소 제곱법과 로지스틱 회귀와 같은 많은 실용적 응용에서 성립하지 않는 강한 볼록성에 의존하는 기존 분산 최적화 알고리즘의 한계를 해결하기 위해.
• 강한 볼록성보다 더 약한 조건을 사용하여 분산 원-이중 경사하강법의 수렴 보장을 개발하여 비볼록 및 유일하지 않은 최소화자 시나리오에 적용 가능하게 하기 위해.
• 동일한 완화된 조건을 사용하여 연속시간에서는 지수 수렴, 이산시간에서는 선형 수렴을 동시에 확립하기 위해.
• 비용 함수가 미분 가능하지만 강한 볼록성이 아닌 분산 환경에서 1차 방법의 사용에 대한 이론적 근거를 제공하기 위해.

제안 방법

• 국소 비용 함수들의 합으로 이루어진 전역 비용 함수를 최소화하기 위해 국소 정보 교환을 사용하는 연속시간 분산 원-이중 경사하강법을 제안한다.
• 강한 볼록성의 더 약한 대체 조건으로 제한된 세컨드 부등식 조건을 도입하며, 이는 비볼록성 또는 전역 최소화자의 유일성 요구 없이도 가능하다.
• 리아푸노프 안정성 이론을 적용하여 제한된 세컨드 부등식 조건 하에서 연속시간 알고리즘이 전역 최소화자로 지수 수렴함을 증명한다.
• 오일러의 근사법을 사용하여 알고리즘의 이산시간 버전을 구성하고, 동일한 조건 하에서 선형 수렴을 보장한다.
• 이산시간의 선형 수렴을 위한 명시적 스텝사이즈 제약 조건을 유도하며, 이는 네트워크 라플라시안, 리프시츠 상수, 제한된 세컨드 부등식 상수 등의 매개변수를 포함한다.
• 비볼록 국소 비용 함수가 제한된 세컨드 부등식 조건을 만족하는 10개의 에이전트로 구성된 링 네트워크에서 수치 시뮬레이션을 통해 이론적 결과를 검증한다.

실험 결과

연구 질문

• RQ1 강한 볼록성보다 더 약한 조건 하에서 분산 미분 가능 최적화 문제에 대해 지수 수렴을 달성할 수 있는가?
• RQ2 제한된 세컨드 부등식 조건은 전역 비용 함수가 비볼록이거나 다수의 전역 최소화자를 가질 경우에도 수렴 보장을 가능하게 하는가?
• RQ3 연속시간 분산 원-이중 알고리즘의 이산시간 병렬판은 동일한 완화된 조건 하에서 선형 수렴을 달성할 수 있는가?
• RQ4 이산시간 알고리즘의 스텝사이즈 제약 조건은 시스템 매개변수와 수렴 속도와 어떻게 관련이 있는가?
• RQ5 분산 최적화 맥락에서 제한된 세컨드 부등식 조건은 메트릭 하위정규성 및 강한 볼록성보다 엄밀히 더 약한가?

주요 결과

• 전역 비용 함수가 제한된 세컨드 부등식 조건을 만족할 경우, 연속시간 분산 원-이중 경사하강법은 전역 최소화자로 지수 수렴한다.
• 오일러 방법을 통해 유도된 이산시간 분산 원-이중 알고리즘은 동일한 조건 하에서 전역 최소화자로 선형 수렴하며, 이는 비볼록성 또는 해 집합의 유일성 요구 없이도 가능하다.
• 제한된 세컨드 부등식 조건은 강한 볼록성보다 엄밀히 더 약하며, 전역 최소화자의 유일성이나 비용 함수의 볼록성 요구 없이도 가능하다.
• 이산시간 알고리즘의 선형 수렴 속도는 $1 - \frac{h(2\theta_2\theta_4 - h\theta_1\theta_3\theta_5)}{4\theta_3\theta_4}$ 보다 아래로 떨어지지 않으며, 스텝사이즈 $h$ 에 대한 명시적 제약 조건이 존재한다.
• 비볼록 국소 비용 함수를 가진 10에이전트 링 네트워크에서의 수치 시뮬레이션은 이산시간 알고리즘이 선형 수렴함을 확인하였으며, 모든 원변수는 0(전역 최소화자)로 수렴하고 이중변수도 0으로 수렴한다.
• 시뮬레이션 결과는 이론적 수렴 속도를 검증하였으며, 비볼록성 및 유일하지 않은 최소화자 설정에서 제안된 방법의 효과성을 보여준다.