[논문 리뷰] Distributed Convex Optimization with Inequality Constraints over Time-varying Unbalanced Digraphs

Pei Xie, Keyou You외 3명|arXiv (Cornell University)|2016. 12. 29.

Cooperative Communication and Network Coding인용 수 3

한 줄 요약

이 논문은 시간에 따라 변화하는 비균형 방향 그래프에서 부등식 제약 조건이 있는 볼록 최적화를 위한 새로운 분산 알고리즘을 제안한다. 비균형성의 영향을 제거하기 위해 에피그래프 재구성 기법을 사용하며, 분산 서브그래디언트 강하와 무작위-고정 투영 방법을 결합하여, 통합된 강한 연결성 조건이 만족될 경우 거의 확실한 수렴을 보임을 증명한다.

ABSTRACT

This paper considers a distributed convex optimization problem with inequality constraints over time-varying unbalanced digraphs, where the cost function is a sum of local objectives, and each node of the graph only knows its local objective and inequality constraints. Although there is a vast literature on distributed optimization, most of them require the graph to be balanced, which is quite restrictive and not necessary. Very recently, the unbalanced problem has been resolved only for either time-invariant graphs or unconstrained optimization. This work addresses the unbalancedness by focusing on an epigraph form of the constrained optimization. A striking feature is that this novel idea can be easily used to study time-varying unbalanced digraphs. Under local communications, a simple iterative algorithm is then designed for each node. We prove that if the graph is uniformly jointly strongly connected, each node asymptotically converges to some common optimal solution.

연구 동기 및 목표

• 실제 네트워크에서 흔한 시간에 따라 변화하는 비균형 방향 그래프에서 제약 조건이 있는 분산 최적화를 위한 알고리즘이 부족한 문제를 해결하기 위해.
• 기존 방법들이 균형 잡힌 그래프를 요구하거나 시간에 따라 변화하는 구조에 적용 불가능한 한계를 극복하기 위해.
• 전역 지식이나 균형 잡힌 통신 행렬을 필요로 하지 않으면서도 공통 최적 해로의 수렴을 보장하는 간단하고 확장 가능한 알고리즘을 설계하기 위해.
• 무작위-고정 투영 알고리즘을 시간에 따라 변화하는 그래프로 확장하면서도 타당성과 수렴성을 유지하기 위해.

제안 방법

• 원래의 제약 조건이 있는 최적화 문제를 에피그래프 형태로 재구성하여 목적 함수를 선형화하고 국소 목적 함수를 분리함으로써, 비균형 방향 그래프의 처리를 용이하게 함.
• 이중 단계 반복 알고리즘을 사용: 첫째, 에피그래프 형태에 대해 분산 서브그래디언트 강하를 적용하여 일관성 유사 상태에 도달함; 둘째, 각 노드의 상태를 국소 제약 집합으로 투영하기 위해 폴리악의 무작위 투영 방법의 분산 형태를 적용함.
• 임시 성능 향상과 수렴 속도 향상을 위해 고정 방향으로 향한 추가 투영을 도입함.
• 시간에 따라 변화하는 행-스토케스틱 가중치 행렬을 사용하여 비균형 방향 그래프에서의 통신을 모델링함으로써 평균 상태의 일관성을 확보함.
• 스토케스틱 분석과 라플라스 유형의 추론을 활용하여 수렴성을 증명함. 이는 그래프 수열의 균일한 통합 강한 연결성 조건을 활용함.
• 비균형 방향 그래프에서도 정보 교환의 균형을 유지하기 위해 가중치 행렬을 통해 푸시-섬 메커니즘을 암묵적으로 적용함.

실험 결과

연구 질문

• RQ1 균형 잡힌 통신 행렬이 필요 없이 시간에 따라 변화하는 비균형 방향 그래프에서 부등식 제약 조건이 있는 분산 볼록 최적화를 해결할 수 있는가?
• RQ2 분산 최적화 프레임워크에서 방향 그래프의 비균형성은 어떻게 효과적으로 관리할 수 있는가?
• RQ3 에피그래프 재구성 기법을 사용하여 국소 목적 함수를 통합하고 제약 조건이 있는 문제를 위한 분산 알고리즘 설계를 단순화할 수 있는가?
• RQ4 시간에 따라 변화하는 그래프 구조에서 분산 알고리즘이 공통 최적 해로 수렴하기 위한 조건은 무엇인가?
• RQ5 계산 복잡도를 증가시키지 않고도 수렴 속도와 임시 성능를 향상시킬 수 있는가?

주요 결과

• 시간에 따라 변화하는 방향 그래프의 균일한 통합 강한 연결성 조건이 만족될 경우, 제안된 알고리즘이 모든 노드가 공통 최적 해로 거의 확실하게 수렴함을 보장함.
• 에피그래프 재구성 기법이 목적 함수의 선형화를 통해 비균형 통신 가중치의 영향을 성공적으로 제거함.
• 스토케스틱 라플라스 분석을 통해 수렴성을 증명하였으며, 최적 해와의 기대 제곱 거리가 거의 확실하게 수렴함을 보임.
• 분산 무작위-고정 투영 단계를 통해 반복값의 타당성이 유지되어 각 노드의 상태가 국소 제약 집합 내에 머물도록 보장함.
• 고정된 방향으로 향한 추가 투영을 통해 임시 성능이 향상되고, 최종 해는 변경되지 않은 채 수렴 속도가 가속됨.
• 알고리즘이 확장 가능하며 전역 네트워크 지식이 필요 없어, 동적 구조를 가진 대규모 분산 시스템에 적합함.