[논문 리뷰] Distributed optimization with nonuniform unbounded convex constraint sets and nonuniform step-sizes

Peng Lin, Wei Ren|arXiv (Cornell University)|2017. 03. 27.

Distributed Control Multi-Agent Systems인용 수 2

한 줄 요약

이 논문은 비균일한 볼록 제약집합과 비균일한 스텝 사이즈를 가진 다중 에이전트 시스템을 위한 분산 연속시간 및 이산시간 최적화 알고리즘을 제안한다. 이는 제약집합이 유계가 아니거나 통신 그래프가 강연결이 아닐 경우에도 일치 및 목적함수 최소화를 가능하게 한다. 핵심 기여는 일반 조건 하에서 국소 최적해에 수렴한다는 점이며, 이는 유계가 아닌 기울기와 비균일한 파rameter를 포함한다.

ABSTRACT

This paper is devoted to distributed continuous-time and discrete-time optimization problems with nonuniform convex constraint sets and nonuniform stepsizes for general differentiable convex objective functions. The communication graphs are not required to be strongly connected at any time, the gradients of the local objective functions are not required to be bounded when their independent variables tend to infinity, and the constraint sets are not required to be bounded. For continuous-time multi-agent systems, a distributed continuous algorithm is first introduced where the stepsizes and the convex constraint sets are both nonuniform. It is shown that all agents reach a consensus while minimizing the team objective function even when the constraint sets are unbounded. After that, the obtained results are extended to discrete-time multi-agent systems and then the case where each agent remains in a corresponding convex constraint set is studied. To ensure all agents to remain in a bounded region, a switching mechanism is introduced in the algorithms. It is shown that the distributed optimization problems can be solved, even though the discretization of the algorithms might deviate the convergence of the agents from the minimum of the objective functions. Finally, numerical examples are included to show the obtained theoretical results.

연구 동기 및 목표

• 비균일한 볼록 제약집합이 유계일 수 없는 다중 에이전트 시스템에서의 분산 최적화 문제를 다루는 것.
• 모든 시점에서 통신 그래프의 강연결이 필요 없이도 알고리즘이 작동하도록 하는 것.
• 변수의 크기가 무한으로 갈수록 기울기가 무한히 증가하더라도 전역 최소값으로 수렴하도록 보장하는 것.
• 연속시간 시스템의 결과를 이산시간 시스템으로 확장하면서 유한성 유지 기제를 도입하는 것.
• 일반적이고 현실적인 조건 하에서 이론적 결과를 수치 예제로 검증하는 것.

제안 방법

• 비균일한 스텝 사이즈와 제약집합을 가진 분산 연속시간 알고리즘을 설계하였으며, 국소 기울기 정보와 일치 동역학을 사용한다.
• 알고리즘은 제약집합이 유계가 아니더라도 모든 에이전트가 총 목적함수를 최소화하는 공통된 점으로 수렴함을 보장한다.
• 연속시간 동역학을 이산화하여 이산시간 시스템으로 확장하면서 수렴 성질을 유지한다.
• 이산시간 알고리즘에 스위칭 메커니즘을 도입하여 에이전트가 유한한 영역 내에 머물도록 하여 안정성과 수렴성을 확보한다.
• 이론적 분석은 라파노프 함수와 볼록 함수의 성질을 활용하여 일반적인 가정 하에서의 수렴성을 증명한다.
• 수치 시뮬레이션을 통해 다양한 비균일성과 유계가 아닌 설정 조건 하에서 이론적 결과의 타당성을 검증한다.

실험 결과

연구 질문

• RQ1 비균일하고 유계가 아닌 볼록 제약집합, 비균일 스텝 사이즈를 가진 연속시간 다중 에이전트 시스템에서 분산 최적화를 달성할 수 있는가?
• RQ2 모든 시점에서 통신 그래프가 강연결이 아니더라도 알고리즘이 전역 최적해로 수렴하는가?
• RQ3 연속시간 형태가 이산화되고 제약집합이 유계가 아닐 경우, 이산시간 알고리즘이 수렴성을 유지할 수 있는가?
• RQ4 유계가 아닌 제약조건이 있는 이산시간 최적화 과정에서 에이전트가 유한 영역에 머물도록 보장하는 메커니즘은 무엇인가?
• RQ5 제안된 알고리즘은 국소 목적함수의 기울기가 무한히 증가하는 경우에도 전역 최적화를 달성할 수 있는가?

주요 결과

• 연속시간 분산 알고리즘은 제약집합이 유계가 아니거나 기울기가 유계가 아니더라도 일치 및 전역 목적함수 최소화를 달성한다.
• 시간에 따라 변화하는 비균일한 통신 그래프가 강연결이 아니어도 일반 조건 하에서 수렴이 보장된다.
• 스위칭 메커니즘이 적용된 경우, 이산시간 알고리즘은 이산화 오차가 존재하더라도 최적해로 수렴한다.
• 스위칭 메커니즘이 효과적으로 에이전트의 발산을 방지하면서도 전역 최소값으로의 수렴성을 유지한다.
• 수치 예제를 통해 이론적 수렴 행동이 비균일하고 유계가 아닌 설정 조건 하에서도 실질적으로 관찰됨을 확인하였다.