[논문 리뷰] Gossip Dual Averaging for Decentralized Optimization of Pairwise Functions

Igor Colin, Aurélien Bellet외 2명|arXiv (Cornell University)|2016. 06. 08.

Distributed Control Multi-Agent Systems참고 문헌 27인용 수 29

한 줄 요약

이 논문은 센서 및 IoT 네트워크에서 쌍별 함수의 분산 최적화를 위한 가십 듀얼 어워징 알고리즘을 제안한다. 각 노드는 이웃 노드와만 통신한다. 이 방법은 이중 변수를 유지하고 편향된 기울기 추정치를 사용함으로써, 통신 제약과 네트워크 토폴로지 영향에도 불구하고 중심화된 듀얼 어워징에 가까운 수렴 속도를 달성함으로써 전역 모델(예: AUC 최대화 및 메트릭 학습 등)의 효율적이고 확장 가능한 학습을 가능하게 한다.

ABSTRACT

In decentralized networks (of sensors, connected objects, etc.), there is an important need for efficient algorithms to optimize a global cost function, for instance to learn a global model from the local data collected by each computing unit. In this paper, we address the problem of decentralized minimization of pairwise functions of the data points, where these points are distributed over the nodes of a graph defining the communication topology of the network. This general problem finds applications in ranking, distance metric learning and graph inference, among others. We propose new gossip algorithms based on dual averaging which aims at solving such problems both in synchronous and asynchronous settings. The proposed framework is flexible enough to deal with constrained and regularized variants of the optimization problem. Our theoretical analysis reveals that the proposed algorithms preserve the convergence rate of centralized dual averaging up to an additive bias term. We present numerical simulations on Area Under the ROC Curve (AUC) maximization and metric learning problems which illustrate the practical interest of our approach.

연구 동기 및 목표

• 대규모로 완전히 분산된 네트워크(예: IoT 및 센서 네트워크)에서 쌍별 함수의 분산 최적화를 해결하기 위해.
• 중앙 집중적 조율 없이 작동하고 비동기 통신 환경에서도 작동하는 가십 기반 알고리즘을 개발하기 위해.
• 분산 환경에서 제약 조건과 정규화가 적용된 쌍별 최적화 문제의 변형을 다루기 위해.
• 통신 및 데이터 분포 제약에도 불구하고 중심화된 듀얼 어워징과 비교할 수 있는 수렴 속도를 달성하기 위해.

제안 방법

• 각 노드가 이중 변수를 유지하고 로컬 및 이웃 데이터로부터 편향된 기울기 추정치를 사용해 이를 업데이트하는 가십 기반 듀얼 어워징 프레임워크를 제안한다.
• 전체 데이터 교환 없이도 쌍별 함수의 근사 기울기를 계산하기 위한 경량 데이터 전파 방식을 도입한다.
• 로컬 이중 변수를 쌍별 통신를 통해 집계하는 듀얼 어워징 업데이트 규칙을 사용하여 공통 솔루션으로 수렴함을 보장한다.
• 동기 및 비동기 설정 모두에서 수렴성을 분석하여, 빠르게 감소하는 추가적인 편향 항까지의 수렴을 보여준다.
• AUC 최대화 및 메트릭 학습과 같은 문제에 이 방법을 적용하고, 쌍별 상호작용을 모델링하기 위해 가상 노드의 네트워크를 사용한다.
• 네트워크 라플라시안의 스펙트럼 분석을 통해 수렴 속도를 근사하고 네트워크 연결성 및 토폴로지와의 관계를 규명한다.

실험 결과

연구 질문

• RQ1 중앙 집중적 조율 없이도 듀얼 어워징 기반의 가십 알고리즘이 쌍별 함수의 분산 최적화를 효과적으로 해결할 수 있는가?
• RQ2 제안된 가십 듀얼 어워징 방법의 수렴 속도는 분산 환경에서 중심화된 듀얼 어워징과 비교해 어떻게 되는가?
• RQ3 네트워크 토폴로지와 비동기성은 제안된 알고리즘의 성능과 수렴에 어떤 영향을 미치는가?
• RQ4 기울기 추정치의 편향은 얼마나 빨리 감소하는가? 실제로 최적화 성능에 크게 영향을 미치는가?
• RQ5 이 알고리즘은 제약 조건과 정규화가 적용된 쌍별 최적화 문제의 변형을 분산 방식으로 처리할 수 있는가?

주요 결과

• 제안된 가식 듀얼 어워징 알고리즘은 중심화된 듀얼 어워징과 비슷한 수렴 속도를 달성하며, 수렴 속도에 영향을 주는 추가적인 편향 항만 존재하고 이는 반복 횟수가 증가함에 따라 빠르게 감소한다.
• AUC 최대화 및 메트릭 학습에 대한 수치 시뮬레이션 결과, 잘 연결된 네트워크에서는 편향 항의 영향이 거의 없음을 확인하여 실용적 무시 가능성을 입증한다.
• 와츠-스트로가츠 네트워크와 완전 네트워크 모두에서 동일한 성능를 보이며, 네트워크 토폴로지에 대해 강건함을 보여준다.
• 합성 데이터 및 실세계 데이터(예: Breast Cancer Wisconsin 데이터셋)를 활용한 실험에서, 50회 반복 동안 목표 함수가 안정적으로 수렴하고 분산이 최소한이었다.
• 합성 및 실세계 데이터 모두에서 반복 횟수가 증가함에 따라 편향 항이 급격히 감소하는 것으로 관찰되어 이론적 가정인 빠른 감소를 뒷받침한다.
• 데이터 중앙집중화나 전역 조율 없이도 분산 메트릭 학습 및 AUC 최대화를 성공적으로 처리한다.