[논문 리뷰] Continuous-Time Distributed Algorithms for Extended Monotropic Optimization Problems

Xianlin Zeng, Peng Yi외 2명|arXiv (Cornell University)|2016. 08. 03.

Distributed Control Multi-Agent Systems참고 문헌 30인용 수 15

한 줄 요약

이 논문은 다중 에이전트 네트워크에서 확장된 단조 최적화(EMO) 문제를 해결하기 위해, 투영된 출력 피드백과 도함수 피드백을 사용하는 두 가지 새로운 연속시간 분산 알고리즘을 제안한다. 이 알고리즘들은 비연속 리아프노프 분석과 미분 포함관계를 통해, 부드럽지 않은 목표 함수와 결합된 제약 조건이 존재하더라도 온화한 조건 하에서 최적 해로 수렴함을 보여준다.

ABSTRACT

This paper studies distributed algorithms for the extended monotropic optimization problem, which is a general convex optimization problem with a certain separable structure. The considered objective function is the sum of local convex functions assigned to agents in a multi-agent network, with private set constraints and affine equality constraints. Each agent only knows its local objective function, local constraint set, and neighbor information. We propose two novel continuous-time distributed subgradient-based algorithms with projected output feedback and derivative feedback, respectively, to solve the extended monotropic optimization problem. Moreover, we show that the algorithms converge to the optimal solutions under some mild conditions, by virtue of variational inequalities, Lagrangian methods, decomposition methods, and nonsmooth Lyapunov analysis. Finally, we give two examples to illustrate the applications of the proposed algorithms.

연구 동기 및 목표

• 부드럽지 않은, 분리 가능한 볼록 목표 함수와 결합된 제약 조건을 가진 다중 에이전트 네트워크에서의 분산 최적화 문제에 도전한다.
• 중앙 집중적 조율 없이 국소 정보만을 사용하는 연속시간 알고리즘을 설계한다.
• 집합 제약 조건과 선형 등식 제약 조건이 존재하더라도 최적 해로의 수렴을 보장한다.
• 미분 포함관계에 대한 안정성 이론을 활용하여 에이전트 상태의 유계성과 수렴성을 확보한다.
• 네트워크 흐름과 자원 할당과 같은 실제 문제 기반 예제를 통해 적용 가능성을 입증한다.

제안 방법

• 국소 볼록 함수의 합으로서 EMO 문제를 수식화하며, 각각의 개인적 집합 제약 조건과 전역적인 선형 등식 제약 조건을 포함한다.
• 투영된 출력 피드백(DPOFA)을 사용하는 알고리즘과 도함수 피드백(DDFA)을 사용하는 알고리즘의 두 가지 연속시간 분산 알고리즘을 제안한다.
• 상태 궤적의 탈리움 유지와 국소 제약 조건 집합의 강제 이행을 위해 투영 연산자를 활용한다.
• 라그랑주 이중성과 분해 방법을 활용하여 전역 문제를 국소 하위 문제로 분리한다.
• 수렴성을 증명하기 위해 비연속 리아프노프 분석과 미분 포함관계의 불변성 원리를 적용한다.
• 결합된 제약 조건을 처리하고 유계성을 보장하기 위해 보조 변수와 이중 변수(예: λ, z)를 통합한다.

실험 결과

연구 질문

• RQ1 분산 연속시간 알고리즘이 부드럽지 않은 목표 함수와 결합된 제약 조건을 가진 확장된 단조 최적화 문제를 해결할 수 있는가?
• RQ2 에이전트들이 국소 정보와 이웃 간 통신만을 사용하여 전역 최적성을 달성할 수 있는가?
• RQ3 부드럽지 않은 상황에서 상태 궤적의 유계성과 수렴성을 보장하는 조건은 무엇인가?
• RQ4 투영된 출력 피드백과 도함수 피드백 설계 방식은 성능 및 안정성 측면에서 어떻게 비교되는가?
• RQ5 제안된 알고리즘은 네트워크 흐름 최적화와 같은 실질적 문제에 적용될 수 있는가?

주요 결과

• DPOFA 및 DDFA 알고리즘은 초기 조건과 관계없이 온화한 조건 하에서 EMO 문제의 최적 해로 수렴한다.
• 보조 변수 y 또는 z가 집합 Ω를 벗어나도 상태 변수 x의 궤적은 여전히 탈리움 집합 Ω 내에 유지된다.
• 목표 함수 f(x)와 제약 위반도 ‖Ax−b‖²는 시간이 지남에 따라 모두 0으로 수렴하여 탈리움성과 최적성의 확인이 가능하다.
• 시뮬레이션 결과를 통해 이중 변수 λ와 z의 유계성이 확인되었으며, ‖λ‖² 및 ‖z‖²의 시간에 따른 변화를 통해 이를 검증하였다.
• 12条의 간선을 가진 6노드 네트워크에서 실시한 수치 시뮬레이션 결과, 두 알고리즘이 상자 제약 조건이 있는 이차 흐름 최적화 문제를 성공적으로 해결하였다.
• 제안된 알고리즘은 부드럽지 않은, 볼록적이고 분리 가능한 목표 함수가 존재하는 상황에서도 탈리움성과 안정성을 유지한다.