[논문 리뷰] Towards More Efficient Stochastic Decentralized Learning: Faster Convergence and Sparse Communication

Zebang Shen, Aryan Mokhtari외 3명|arXiv (Cornell University)|2018. 05. 24.

Stochastic Gradient Optimization Techniques인용 수 46

한 줄 요약

DSBA는 기하적 수렴을 선형 조건화와 함께 달성하고 희소 통신을 가능하게 하는 분산 확률 역방향 집계 방법을 도입하며, 분산 학습에서의 악조건화와 통신 비용 문제를 해결한다; AUC 최대화로 확장된다.

ABSTRACT

Recently, the decentralized optimization problem is attracting growing attention. Most existing methods are deterministic with high per-iteration cost and have a convergence rate quadratically depending on the problem condition number. Besides, the dense communication is necessary to ensure the convergence even if the dataset is sparse. In this paper, we generalize the decentralized optimization problem to a monotone operator root finding problem, and propose a stochastic algorithm named DSBA that (i) converges geometrically with a rate linearly depending on the problem condition number, and (ii) can be implemented using sparse communication only. Additionally, DSBA handles learning problems like AUC-maximization which cannot be tackled efficiently in the decentralized setting. Experiments on convex minimization and AUC-maximization validate the efficiency of our method.

연구 동기 및 목표

• 악조건화와 밀집된 통신으로 고통받는 기존의 결정적 및 확률적 분산 해법들의 비효율성을 동기 부여하고 해결한다.
• 분산 최적화를 단조로운 연산자 루트 찾기 프레임워크로 일반화한다.
• 단일 샘플 업데이트와 희소한 노드 간 통신으로 선형 수렴을 달성하도록 DSBA를 개발한다.
• l2-relaxed AUC 최대화와 같은 문제로 프레임워크를 확장하고, 볼록 최소화 및 AUC 작업에 대한 실험을 통해 검증한다.

제안 방법

• 로컬 강하게 단조되고 Lipschitz인 연산자들의 합에 대한 분산 루트 찾기를 형식화한다.
• 경사 변동성을 줄이기 위해 SAGA 스타일의 히스토리 항을 가진 확률적 유한합 근사를 사용한다(식 19).
• 해결자 기반의 고정점 업데이트를 도출하여 분산 구현을 허용한다(식 18-23).
• 이웃 합의(tilde-W를 통해)와 확률적 역방향 단계를 결합하는 DSBA 업데이트 규칙을 개발한다(식 24-31).
• 구성 요소의 희소성을 활용하고 교환 정보가 희소한 델타 벡터로 제한되도록 하는 통신 전략을 자세히 설명하여 희소 통신 버전을 도입한다(섹션 5.1).
• Lyapunov 함수를 사용한 수렴 분석을 제공하여 코코에르시비성 및 단조성 가정 하에서 선형 수렴을 보인다(섹션 6).

실험 결과

연구 질문

• RQ1 유한합 설정에서 확률적 분산 방법이 조건화 의존적인 속도로 선형 수렴을 달성할 수 있는가?
• RQ2 DSBA가 빠른 수렴을 유지하며 ρ-희소 통신을 가능하게 할 수 있는가?
• RQ3 DSBA 프레임워크가 l2-relaxed AUC 최대화 및 다른 쌍별 의존 목표 함수에 효과적으로 확장될 수 있는가?
• RQ4 볼록 및 AUC 과제에서 기존의 분산 해법과 비교해 DSBA의 계산 비용과 통신 비용 간의 트레이드오프는 무엇인가?

주요 결과

• DSBA는 O((κ+κg+q) log(1/ε))의 선형 수렴을 달성한다.
• 이터레이션당 통신은 희소하므로: O(ρ d) 대 O(d) (조밀 방법 대비).
• DSBA는 확률적 업데이트(매 이터레이션마다 한 데이터 포인트)와 단일 라운드 통신을 사용하여 계산 비용을 줄인다.
• DSBA-s는 그래디언트 샘플링에 추가된 확률성에도 동일한 수렴 속도를 유지하여 향후 변형에 적합하다.
• 이 방법은 l2-relaxed AUC 최대화에 적용 가능하며 볼록 최소화 및 AUC 문제에서 검증되어 계산 및 통신 측면의 개선을 보여준다.