[논문 리뷰] Compressed Gradient Tracking for Decentralized Optimization with Linear Convergence.

Zhuorui Li, Yiwei Liao외 2명|arXiv (Cornell University)|2021. 03. 25.

Distributed Control Multi-Agent Systems참고 문헌 43인용 수 5

한 줄 요약

이 논문은 분산 최적화를 위한 압축된 기울기 추적 알고리즘인 C-GT를 제안하며, 기울기 추적과 일반적인 통신 압축을 결합하여 강凸이고 미분 가능한 함수에 대해 선형 수렴성을 확보한다. 또한 오차 피드백을 통합한 EF-C-GT를 제안하여 편향이 있는 압축기와 함께 효율성을 향상시키며, 통신 효율성과 수렴 속도에서 이론적 및 수치적 우수성을 입증한다.

ABSTRACT

Communication compression techniques are of growing interests for solving the decentralized optimization problem under limited communication, where the global objective is to minimize the average of local cost functions over a multi-agent network using only local computation and peer-to-peer communication. In this paper, we first propose a novel compressed gradient tracking algorithm (C-GT) that combines gradient tracking technique with communication compression. In particular, C-GT is compatible with a general class of compression operators that unifies both unbiased and biased compressors. We show that C-GT inherits the advantages of gradient tracking-based algorithms and achieves linear convergence rate for strongly convex and smooth objective functions. In the second part of this paper, we propose an error feedback based compressed gradient tracking algorithm (EF-C-GT) to further improve the algorithm efficiency for biased compression operators. Numerical examples complement the theoretical findings and demonstrate the efficiency and flexibility of the proposed algorithms.

연구 동기 및 목표

• 통신 대역폭 제약을 고려한 분산 최적화 문제를 해결하기 위해 통신 압축과 기울기 추적을 통합한다.
• 편향이 없는 압축 연산자와 편향이 있는 압축 연산자를 모두 지원하는 통합 프레임워크를 개발하여 알고리즘의 유연성을 향상시킨다.
• 피어 투 피어 통신 제약 조건 하에서 강凸이고 미분 가능한 목적 함수에 대해 선형 수렴성을 확보한다.
• 제안된 EF-C-GT 알고리즘에서 오차 피드백 메커니즘을 통해 편향이 있는 압축기의 효율성을 향상시킨다.

제안 방법

• 기울기 추적과 일반적인 압축 연산자 클래스를 통합한 새로운 압축 기울기 추적 알고리즘인 C-GT를 제안한다.
• 로컬 정보와 피어 투 피어 통신을 이용해 전역 기울기를 추정하는 기울기 추적 메커니즘을 활용한다.
• 편향이 없는 압축 연산자와 편향이 있는 압축 연산자 모두와 호환되도록 알고리즘을 설계하여 더 넓은 적용 가능성을 확보한다.
• 압축 연산자가 유도하는 편향을 보정하기 위해 오차 피드백을 통합하여 수렴 안정성을 향상시킨 EF-C-GT를 도입한다.
• 압축 연산자가 특정 상대 오차 제약 조건을 만족하도록 보장함으로써 선형 수렴 속도를 유지한다.
• 중앙 집중식 조정이나 파rameter 서버 없이 로컬 계산과 피어 투 피어 통신만을 사용한다.

실험 결과

연구 질문

• RQ1 통신 압축을 기울기 추적과 효과적으로 통합하여 분산 최적화에서 선형 수렴성을 유지할 수 있는가?
• RQ2 제안된 C-GT 알고리즘이 편향이 없는 압축 연산자와 편향이 있는 압축 연산자 모두에서 어떻게 성능을 발휘하는가?
• RQ3 편향이 있는 압축기 사용 시 분산 환경에서 오차 피드백이 수렴 성능에 어떤 영향을 미치는가?
• RQ4 기존 방법과 비교해 더 빠른 수렴 속도와 더 낮은 통신 비용을 달성할 수 있는가?

주요 결과

• C-GT는 일반적인 압축 연산자 하에서 강凸이고 미분 가능한 목적 함수에 대해 선형 수렴성을 확보한다.
• 압축 연산자가 상대 오차가 유계임을 만족할 경우, 편향이 있는 압축 연산자 사용 시에도 수렴 보장을 유지한다.
• EF-C-GT는 오차 피드백을 통해 누적 오차를 감소시켜 편향이 있는 압축기의 수렴 효율성을 향상시킨다.
• 수치 실험 결과 이론적 분석 결과를 확인하였으며, 더 빠른 수렴 속도와 낮은 통신 오버헤드를 보였다.
• 제안된 알고리즘은 다양한 압축 유형과 네트워크 구조에서의 유연성과 강건성을 입증하였다.
• 기울기 추적과 압축의 통합은 제한된 통신 환경 하에서도 효율적인 분산 최적화를 가능하게 한다.