[논문 리뷰] Distributed Proximal Gradient Algorithm for Partially Asynchronous Computer Clusters

Yi Zhou, Yaoliang Yu외 3명|arXiv (Cornell University)|2017. 04. 11.

Stochastic Gradient Optimization Techniques참고 문헌 46인용 수 15

한 줄 요약

이 논문은 부분적으로 비동기적인 컴퓨터 클러스터를 위한 분산 모델 병렬 프록시멀 그래디언트 알고리즘인 m-PAPG를 제안하며, 대규모 머신러닝에서 효율적이고 강건한 최적화를 가능하게 한다. 수렴 보장을 수립한다: 모든 한계점은 임계점이며, 오차 유계 조건 하에서 함수 값은 선형적으로 감소하고, Kurdyka-Łojasiewicz 부등식과 프록시멀 리프시츠 조건 하에서 수렴 수열은 동일한 임계점으로 수렴한다.

ABSTRACT

With ever growing data volume and model size, an error-tolerant, communication efficient, yet versatile distributed algorithm has become vital for the success of many large-scale machine learning applications. In this work we propose m-PAPG, an implementation of the flexible proximal gradient algorithm in model parallel systems equipped with the partially asynchronous communication protocol. The worker machines communicate asynchronously with a controlled staleness bound $s$ and operate at different frequencies. We characterize various convergence properties of m-PAPG: 1) Under a general non-smooth and non-convex setting, we prove that every limit point of the sequence generated by m-PAPG is a critical point of the objective function; 2) Under an error bound condition, we prove that the function value decays linearly for every $s$ steps; 3) Under the Kurdyka-$Ł$ojasiewicz inequality, we prove that the sequences generated by m-PAPG converge to the same critical point, provided that a proximal Lipschitz condition is satisfied.

연구 동기 및 목표

• 대규모 머신러닝의 모델 병렬 시스템에서 확장 가능하고, 통신 효율적이며 오차에 강건한 분산 최적화 알고리즘을 개발하기 위해.
• 일괄 동기 및 완전히 비동기 시스템의 한계를 보완하기 위해, 제어된 오래된 정도 유계 $s$를 가진 부분적으로 비동기 프로토콜을 도입하기 위해.
• 모델 병렬성과 부분적 비동기성 하에서 프록시멀 그래디언트 방법의 공식 수렴 분석을 제공하여, 이전 연구를 미분 가능하지 않거나 볼록이 아닌 설정으로 확장하기 위해.
• 임계점으로의 수렴, 오차 유계 조건 하에서의 선형 감소, 그리고 Kurdyka-Łojasiewicz 부등식 하에서 동일한 임계점으로의 수렴을 확립하기 위해.
• 더 넓은 적용 가능성을 위해 가정을 약화시키며, 특히 비미분 가능 함수에 대해 프록시멀 리프시츠 조건을 완화하기 위해.

제안 방법

• m-PAPG는 모델 벡터 $\mathbf{x}$를 상호 배타적인 블록으로 나누어 워커 머신에 분산 배포함으로써 모델 병렬성을 구현한다.
• 워커들은 제한된 오래된 정도 $s$를 가진 채로 비동기적으로 업데이트를 수행하여, 적용 시에 너무 오래되지 않은 업데이트를 보장한다.
• 알고리즘은 각 워커에서 프록시멀 그래디언트 단계를 사용하며, 부드러운 기울기 강하와 비미분 가능 정규화를 위한 프록시멀 연산을 결합한다.
• 수렴 분석은 리아푸노프 함수와 재귀 부등식을 사용하여 반복 수열 간의 거리를 유 bounds하고 유한 길이 수열을 보장한다.
• 핵심 기술 도구로는 오차 유계 조건과 Kurdyka-Łojasiewicz 부등식을 사용하여 선형 수렴 속도를 확립한다.
• 이 방법은 일반적인 비미분 가능하고 비볼록 목적 함수를 지원하며, $\ell_1$-정규화와 기수 함수를 포함한다.

실험 결과

연구 질문

• RQ1 제어된 오래된 정도를 가진 부분적 비동기성 하에서 분산 모델 병렬 프록시멀 그래디언트 알고리즘이 수렴을 유지할 수 있는가?
• RQ2 m-PAPG 알고리즘에서 함수 값이 언제 선형적으로 감소하는가?
• RQ3 m-PAPG가 생성하는 수열은 동일한 임계점으로 수렴하는가? 이러한 수렴을 보장하는 조건은 무엇인가?
• RQ4 수렴 보장 조건을 비볼록 및 비미분 가능 목적 함수, 특히 기수 함수와 랭크 함수로 확장할 수 있는가?
• RQ5 수렴을 위해 필요한 가정은 무엇이며, 더 넓은 적용 가능성을 위해 프록시멀 리프시츠 조건을 약화시킬 수 있는가?

주요 결과

• 일반적인 비미분 가능하고 비볼록 설정 하에서 m-PAPG가 생성하는 수열의 모든 한계점은 목적 함수의 임계점이다.
• 오차 유계 조건 하에서 함수 값은 매 $s$ 단계마다 선형적으로 감소하며, 이는 주기적인 선형 수렴 속도를 나타낸다.
• Kurdyka-Łojasiewicz 부등식과 프록시멀 리프시츠 조건 하에서 반복 수렴 수열은 동일한 임계점으로 수렴한다.
• 작은 단계 크기 $\eta$에 대해 충분한 감소 성질이 성립하여, 각 단계에서 목적 함수가 충분히 감소함을 보장한다.
• 분석을 통해 기수 함수 $\|\mathbf{x}\|_0$가 수렴을 위한 필요 조건을 충족하며, 한계에서 지원 안정성이 유지됨을 확인한다.
• 이 방법은 계산 오차에 강건하며, $\ell_1$-노름과 랭크 기반 정규화자와 같은 광범위한 비미분 가능하고 비볼록 함수를 지원한다.