[论文解读] On the Convergence Analysis of Asynchronous Distributed Quadratic Programming via Dual Decomposition

Kooktae Lee, Raktim Bhattacharya|arXiv (Cornell University)|Jun 17, 2015

Stochastic Gradient Optimization Techniques参考文献 28被引用 6

一句话总结

本文提出一种切换系统框架，用于分析在使用对偶分解的异步分布式二次规划（QP）中收敛性及收敛速度。通过将异步更新建模为子系统间的随机切换，作者建立了均方收敛条件，并推导出收敛速度的解析表达式，表明在OpenMP实现下，随机异步方案相比同步方法可实现高达5.81倍的加速。

ABSTRACT

In this paper, we analyze the convergence as well as the rate of convergence of asynchronous distributed quadratic programming (QP) with dual decomposition technique. In general, distributed optimization requires synchronization of data at each iteration step due to the interdependency of data. This synchronization latency may incur a large amount of waiting time caused by an idle process during computation. We aim to attack this synchronization penalty in distributed QP problems by implementing asynchronous update of dual variable. The price to pay for adopting asynchronous computing algorithms is unpredictability of the solution, resulting in a tradeoff between speedup and accuracy. Thus, the convergence to an optimal solution is not guaranteed owing to the stochastic behavior of asynchrony. In this paper, we employ the switched system framework as an analysis tool to investigate the convergence of asynchronous distributed QP. This switched system will facilitate analysis on asynchronous distributed QP with dual decomposition, providing necessary and sufficient conditions for the mean square convergence. Also, we provide an analytic expression for the rate of convergence through the switched system, which enables performance analysis of asynchronous algorithms as compared with synchronous case. To verify the validity of the proposed methods, numerical examples are presented with an implementation of asynchronous parallel QP using OpenMP.

研究动机与目标

• 解决并行计算中因空闲等待导致的分布式QP同步开销问题。
• 分析在随机异步条件下，分布式QP中异步对偶分解的收敛行为。
• 为大规模异步算法提供一种计算高效的分析框架。
• 推导收敛速度的解析表达式，并对比同步、确定性异步和随机异步方案的性能。
• 通过基于OpenMP的数值实现验证理论结果。

提出的方法

• 将异步对偶更新过程建模为具有随机切换逻辑的切换动力系统。
• 利用切换系统框架，推导出对偶变量均方收敛的必要且充分条件。
• 应用一种新算法（算法1），将切换模式数量从 q^N 降低至 q，显著降低计算复杂度。
• 通过计算切换系统转移矩阵的谱半径，验证其在均方意义下的收敛性。
• 推导三种方案（同步、确定性异步、随机异步）的收敛速度上界。
• 使用OpenMP实现异步分布式QP，并对比各方案的计算时间与加速比。

实验结果

研究问题

• RQ1 在何种条件下，分布式QP中的异步对偶分解可在均方意义下收敛？
• RQ2 异步算法的收敛速度与同步及确定性异步方案相比如何？
• RQ3 能否为大规模异步分布式QP问题开发一种计算高效的分析框架？
• RQ4 与同步算法相比，使用随机异步算法在加速比方面能获得多大性能提升？
• RQ5 线程数量如何影响同步与异步方案的可扩展性？

主要发现

• 随机异步算法的谱半径为0.6147，证实其具有均方收敛速率。
• 在使用8个线程时，随机异步方案相比串行计算最高可实现5.81倍加速，相比同步算法可实现2.26倍加速。
• 所提算法将切换模式数量从820,000降低至8，实现了高效的收敛性分析。
• 收敛速度分析表明，随机异步方法相比同步方法最快可快5倍，相比确定性异步方法最快可快2.5倍。
• 随着线程数增加，同步方案出现性能退化，而两种异步方案均表现出持续加速。
• 基于OpenMP的数值结果证实，随机异步方案收敛最快且加速比最高。