[论文解读] Asynchronous Stochastic Coordinate Descent: Parallelism and Convergence Properties

Ji Liu, Stephen J. Wright|arXiv (Cornell University)|Mar 15, 2014

Stochastic Gradient Optimization Techniques参考文献 31被引用 9

一句话总结

本文提出 AsySPCD，一种用于最小化复合凸函数的异步随机近似坐标下降算法。它引入了一种‘不一致读取’模型，以考虑并发更新期间可能出现的混合、不存在的向量版本，从而在最优强凸性下实现线性收敛，在一般凸函数下实现子线性 $1/k$ 收敛，当核心数为 $O(n^{1/4})$ 时可实现近似线性加速。该方法实现了无锁的高效并行计算，通过更准确地建模真实多核行为，优于以往工作。

ABSTRACT

We describe an asynchronous parallel stochastic proximal coordinate descent algorithm for minimizing a composite objective function, which consists of a smooth convex function plus a separable convex function. In contrast to previous analyses, our model of asynchronous computation accounts for the fact that components of the unknown vector may be written by some cores simultaneously with being read by others. Despite the complications arising from this possibility, the method achieves a linear convergence rate on functions that satisfy an optimal strong convexity property and a sublinear rate ($1/k$) on general convex functions. Near-linear speedup on a multicore system can be expected if the number of processors is $O(n^{1/4})$. We describe results from implementation on ten cores of a multicore processor.

研究动机与目标

• 解决现有异步坐标下降方法中假设一致读取的局限性，这些假设无法反映真实多核架构的行为。
• 对异步计算进行建模与分析，其中核心读取的是共享变量向量的部分更新、混合版本。
• 在新的不一致读取模型下，建立收敛性保证——对最优强凸函数为线性收敛，对一般凸函数为子线性 $1/k$ 收敛。
• 推导在实际中可实现近似线性加速的条件，基于问题维度和延迟参数 $\tau$。
• 提供一种实用的算法，避免使用锁机制，实现在现代多核处理器上的高效并行执行。

提出的方法

• 该算法采用异步、无锁的更新机制，每个核心独立选择一个坐标，读取变量向量的潜在过时版本 $\hat{x}$，计算部分梯度 $\nabla_i f(\hat{x})$，并通过近端操作更新对应分量，以处理正则化项 $g_i(x_i)$。
• 该方法将计算建模为具有有界延迟 $\tau$ 的过程，即任意核心从读取 $\hat{x}$ 到写入其更新之间，最多发生 $\tau$ 次更新，从而确保不会出现无限延迟。
• 分析中引入了一种新颖的‘不一致读取’模型，其中 $\hat{x}$ 可能是由多个核心在读取阶段更新的多个分量组合而成的混合向量，该状态在内存中从未真实存在过。
• 通过使用李雅普诺夫函数 $S_j = \|x_j - \mathcal{P}_S(x_j)\|^2 + \frac{2\gamma}{L_{\max}}(F(x_j) - F^*)$ 证明收敛性，该函数同时追踪原始误差与目标函数差距。
• 证明了步长 $\gamma = 1/2$ 在推导出的界下满足收敛所需条件，确保在不一致读取模型下的稳定性和收敛速率。
• 速度加速条件推导为 $\text{核心数量} = O(n^{1/4})$，该界依赖于海塞矩阵的非对角线结构以及交互参数 $\Lambda$。

实验结果

研究问题

• RQ1 当更新基于不一致、混合的向量读取而非一致的、先前存储的状态时，异步随机坐标下降能否实现线性收敛？
• RQ2 在新不一致读取模型下，该算法对最优强凸函数和一般凸函数的理论收敛速率是什么？
• RQ3 在问题维度 $n$、延迟 $\tau$ 和海塞矩阵结构满足何种条件下，可在实际中实现近似线性加速？
• RQ4 步长 $\gamma$ 的选择如何影响收敛性？在新模型下 $\gamma = 1/2$ 是否可安全使用？
• RQ5 交互参数 $\Lambda$（量化海塞矩阵中坐标间依赖关系）在决定收敛速度和平行可扩展性方面起什么作用？

主要发现

• 在最优强凸性下，算法实现了线性收敛速率 $\mathbb{E}[F(x_j) - F^*] \leq \left(1 - \frac{l\gamma}{n(l\gamma + L_{\max})}\right)^j \mathbb{E}[F(x_0) - F^*]$，其中 $l$ 为最优强凸性参数。
• 对于一般凸函数，算法实现了子线性收敛速率 $\mathbb{E}[F(x_j) - F^*] = O(1/j)$，与串行方法的已知界一致。
• 当核心数为 $O(n^{1/4})$ 时，可实现近似线性加速，该界依赖于交互参数 $\Lambda$ 和海塞矩阵的非对角线结构。
• 步长 $\gamma = 1/2$ 满足分析中推导出的收敛条件，确保在不一致读取模型下的稳定性和收敛性。
• 不一致读取模型被证明比以往的一致读取假设更具现实性，且分析本质上不同，需要新的证明技术。
• 在十核系统上的实验结果证实了该算法的实际可行性和可扩展性，支持理论预测的加速性能。