[논문 리뷰] Asynchronous Stochastic Coordinate Descent: Parallelism and Convergence Properties

Ji Liu, Stephen J. Wright|arXiv (Cornell University)|2014. 03. 15.

Stochastic Gradient Optimization Techniques참고 문헌 31인용 수 9

한 줄 요약

이 논문은 복합 볼록 함수를 최소화하기 위한 이방성 스 tochastic 프록시멀 좌표 강하 알고리즘인 AsySPCD를 제안한다. 이는 동시 업데이트 중에 존재하지 않거나 하이브리드 형태의 벡터 버전을 읽는 '불일치 읽기' 모델을 도입하여, 최적의 강볼록성 조건 하에서 선형 수렴, 일반 볼록 함수에 대해서는 하위선형 $1/k$ 수렴을 달성하며, 코어 수가 $O(n^{1/4})$일 때 근사 선형 속도 향상을 이룬다. 이 방법은 잠금 없이 효율적인 병렬 계산을 가능하게 하여 이전 연구에 비해 실제 다핵 아키텍처의 동작을 더 정확히 모델링한다.

ABSTRACT

We describe an asynchronous parallel stochastic proximal coordinate descent algorithm for minimizing a composite objective function, which consists of a smooth convex function plus a separable convex function. In contrast to previous analyses, our model of asynchronous computation accounts for the fact that components of the unknown vector may be written by some cores simultaneously with being read by others. Despite the complications arising from this possibility, the method achieves a linear convergence rate on functions that satisfy an optimal strong convexity property and a sublinear rate ($1/k$) on general convex functions. Near-linear speedup on a multicore system can be expected if the number of processors is $O(n^{1/4})$. We describe results from implementation on ten cores of a multicore processor.

연구 동기 및 목표

• 기존의 이방성 좌표 강하 방법이 일관된 읽기 가정을 하고 있지만, 이는 실제 다핵 아키텍처를 반영하지 못하므로 이러한 한계를 해결하기 위해.
• 공유 변수 벡터의 부분적으로 업데이트된 하이브리드 형태의 읽기 상태를 갖는 이방성 계산을 모델링하고 분석하기 위해.
• 새로운 불일치 읽기 모델 하에서 수렴 보장을 확립하기 위해 — 최적의 강볼록 함수에 대해서는 선형 수렴, 일반 볼록 함수에 대해서는 하위선형 $1/k$ 수렴.
• 문제 차원과 지연 파라미터 $\tau$에 기반하여 실질적으로 근사 선형 속도 향상이 달성 가능한 조건을 도출하기 위해.
• 잠금을 피하고 현대 다핵 프로세서에서 효율적인 병렬 실행을 가능하게 하는 실용적인 알고리즘을 제공하기 위해.

제안 방법

• 알고리즘은 각 코어가 독립적으로 좌표를 선택하고, 변수 벡터의 가능성이 있는 오래된 버전 $\hat{x}$를 읽고, 부분 미분 $\nabla_i f(\hat{x})$를 계산한 후, 정규화 항 $g_i(x_i)$를 처리하기 위해 프록시멀 연산을 사용해 해당 성분을 업데이트하는 이방성, 잠금 없는 업데이트 메커니즘을 사용한다.
• 계산은 유한한 지연 $\tau$를 가진다. 즉, 코어가 $\hat{x}$를 읽고 업데이트를 쓰는 동안 최대 $\tau$개의 업데이트가 발생할 수 있으며, 이는 무한 지연를 방지한다.
• 분석은 새로운 '불일치 읽기' 모델을 도입하여, $\hat{x}$가 읽기 단계 동안 여러 코어에 의해 업데이트된 성분들로 구성된 하이브리드 벡터일 수 있으며, 메모리상의 유효 상태로 존재하지는 않음을 고려한다.
• 수렴은 프라이멀 오차와 목적 함수 갭을 함께 추적하는 리아푸노프 함수 $S_j = \|x_j - \mathcal{P}_S(x_j)\|^2 + \frac{2\gamma}{L_{\max}}(F(x_j) - F^*)$ 를 사용하여 증명된다.
• 유도된 경계 하에 수렴 조건을 만족하는 것으로 밝혀졌으며, 이는 안정성과 수렴 속도를 보장한다.
• 속도 향상 조건은 $\text{코어 수} = O(n^{1/4})$로 유도되었으며, 이 경계는 헤시안의 비대각 성분 구조와 상호작용 파라미터 $\Lambda$에 따라 달라진다.

실험 결과

연구 질문

• RQ1 업데이트가 이전에 저장된 상태가 아닌 불일치하고 하이브리드 형태의 벡터 읽기 기반으로 이루어질 경우, 이방성 스 tochastic 좌표 강하가 선형 수렴을 달성할 수 있는가?
• RQ2 새로운 불일치 읽기 모델 하에서 최적의 강볼록 함수와 일반 볼록 함수에 대해 알고리즘의 이론적 수렴 속도는 무엇인가?
• RQ3 문제 차원 $n$, 지연 $\tau$, 헤시안의 구조에 대해 어떤 조건에서 실질적으로 근사 선형 속도 향상이 달성될 수 있는가?
• RQ4 스텝 사이즈 $\gamma$의 선택은 수렴에 어떤 영향을 미치며, $\gamma = 1/2$는 새로운 모델 하에서 안전하게 사용할 수 있는가?
• RQ5 헤시안 내 상호작용을 측정하는 상호작용 파라미터 $\Lambda$는 수렴 속도와 병렬 확장성에 어떤 역할을 하는가?

주요 결과

• 최적의 강볼록성 조건 하에서 알고리즘은 선형 수렴 속도 $\mathbb{E}[F(x_j) - F^*] \leq \left(1 - \frac{l\gamma}{n(l\gamma + L_{\max})}\right)^j \mathbb{E}[F(x_0) - F^*]$ 를 달성하며, $l$은 최적의 강볼록성 파라미터이다.
• 일반 볼록 함수에 대해서는 하위선형 수렴 속도 $\mathbb{E}[F(x_j) - F^*] = O(1/j)$ 를 달성하며, 이는 순차적 방법의 알려진 경계와 일치한다.
• 코어 수가 $O(n^{1/4})$일 경우 근사 선형 속도 향상이 달성 가능하며, 이 경계는 상호작용 파라미터 $\Lambda$와 헤시안의 비대각 성분 구조에 따라 달라진다.
• 스텝 사이즈 $\gamma = 1/2$ 는 분석에서 유도된 수렴 조건을 만족하여, 불일치 읽기 모델 하에서 안정성과 수렴을 보장한다.
• 불일치 읽기 모델은 이전의 일관된 읽기 가정보다 더 현실적인 것으로 입증되었으며, 분석 자체가 근본적으로 다르며 새로운 증명 기법이 필요하다.
• 10코어 시스템에서의 실험 결과는 알고리즘이 실질적으로 실행 가능하고 확장 가능하며, 이론적 속도 향상 예측을 뒷받침함을 확인한다.