[논문 리뷰] Distributed Optimization with Projection-free Dynamics

Guanpu Chen, Peng Yi외 2명|arXiv (Cornell University)|2021. 05. 06.

Distributed Control Multi-Agent Systems참고 문헌 28인용 수 5

한 줄 요약

이 논문은 프랭크-울프 방법을 사용하여 계산 비용이 높은 이차 하위문제를 효율적인 선형 최적화로 대체하는 제약 조건이 있는 최적화를 위한 분산형 프로젝션 프리 연속 시간 역학을 제안한다. 이 방법은 가중치 균형 잡힌 다이그래프에서 최적 해로의 수렴을 보장하며 보조 변수 역학을 통해 전역 일치를 달성하고, 유도된 이산 시간 체계에 대해 증명 가능한 수렴 속도를 확보한다.

ABSTRACT

We consider continuous-time dynamics for distributed optimization with set constraints in the paper. To handle the computational complexity of projection-based dynamics due to solving a general quadratic optimization subproblem with projection, we propose a distributed projection-free dynamics by employing the Frank-Wolfe method, also known as the conditional gradient algorithm. The process searches a feasible descent direction by solving an alternative linear optimization instead of a quadratic one. To make the approach applicable over weight-balanced digraphs, we design a dynamics for the consensus of local decision variables and another dynamics of auxiliary variables to track the global gradient. Then we prove the convergence of the dynamical systems to the optimal solution, and provide detailed numerical comparisons with both projection-based dynamics and other distributed projection-free algorithms. Also, we derive the distributed discrete-time scheme following the instructive ideas of the proposed dynamics and provide its accordingly convergence rate.

연구 동기 및 목표

• 복잡한 제약 조건이 있는 분산 최적화에서 프로젝션 기반 역학의 높은 계산 비용을 해결하기 위해.
• 이차 하위문제를 해결하지 않고 프랭크-울프 방법을 통해 선형 최적화를 사용하는 분산 연속 시간 알고리즘을 개발하기 위해.
• 방향성 있는 네트워크에서 의사결정 변수의 전역 수렴을 보장하면서 일치성과 기울기 추적을 유지하기 위해.
• 유도된 이산 시간 분산 알고리즘의 증명 가능한 수렴 속도를 유도하기 위해.
• 수치 실험을 통해 제안된 방법을 프로젝션 기반 및 다른 프로젝션 프리 분산 알고리즘과 비교하기 위해.

제안 방법

• 역학은 이차 하위문제 대신 선형 최적화 하위문제를 해결하여 실현 가능한 내림 방향을 계산하기 위해 프랭크-울프 방법을 사용한다.
• 네트워크의 에이전트들 사이에서 국소 의사결정 변수들을 일치시키기 위해 일치 역학을 설계한다.
• 전역 기울기를 추적하기 위해 보조 변수 역학을 도입하여 분산 계산을 가능하게 한다.
• 알고리즘은 가중치 균형 잡힌 방향성 그래프(digraphs)를 기반으로 작동하여 안정성과 수렴성을 보장한다.
• 연속 시간 시스템의 수렴을 증명하기 위해 라파노프 기반 분석을 사용한다.
• 이산 시간 대응체는 연속 동역학에서 유도되며, 수렴 속도 분석이 제공된다.

실험 결과

연구 질문

• RQ1 복잡한 제약 조건이 있는 분산 최적화를 위한 프로젝션 프리 연속 시간 역학을 설계할 수 있는가? 이는 이차 하위문제를 해결하지 않도록 한다.
• RQ2 프랭크-울프 기반 역학을 사용한 분산 프레임워크에서 일치성과 전역 기울기 추적을 동시에 달성할 수 있는가?
• RQ3 가중치 균형 잡힌 다이그래프에서 제안된 연속 시간 역학의 수렴 행동는 어떠한가?
• RQ4 유도된 이산 시간 분산 알고리즘에 대해 확보할 수 있는 수렴 속도는 무엇인가?
• RQ5 제안된 방법은 프로젝션 기반 및 다른 프로젝션 프리 분산 알고리즘과 비교하여 성능 및 계산 효율성 면에서 어떻게 비교되는가?

주요 결과

• 제안된 연속 시간 역학은 분산 제약 최적화 문제의 최적 해로 수렴한다.
• 프랭크-울프 방법을 통해 선형 하위문제를 사용함으로써 프로젝션 연산을 피함으로써 계산 복잡도를 감소시킨다.
• 시스템은 실현 가능성 유지: 변수가 제약 집합에 진입한 이후로는 항상 그 안에 머물러 있다.
• 알고리즘의 이산 시간 버전은 수렴 속도를 확보하며, 이는 공식적으로 분석되고 증명된다.
• 수치 비교를 통해 제안된 방법이 프로젝션 기반 및 다른 프로젝션 프리 알고리즘보다 효율성과 계산적 우수성을 입증한다.
• 보조 변수가 전역 기울기로 수렴함이 입증되어 분산 기울기 추적을 가능하게 한다.