[论文解读] A Simple Parallel Algorithm with an $O(1/t)$ Convergence Rate for General Convex Programs

Hao Yu, Michael J. Neely|arXiv (Cornell University)|Dec 28, 2015

Advanced Optimization Algorithms Research参考文献 13被引用 4

一句话总结

本文提出了一种用于具有非可微目标函数和Lipschitz连续约束的一般凸规划的新型并行原始-对偶算法。通过采用改进的虚拟队列更新方式和原始更新中的二次惩罚项，该算法实现了O(1/t)的收敛速率，优于对偶次梯度方法的O(1/√t)速率，并突破了ADMM在处理线性约束时的局限性。

ABSTRACT

This paper considers convex programs with a general (possibly non-differentiable) convex objective function and Lipschitz continuous convex inequality constraint functions. A simple algorithm is developed and achieves an $O(1/t)$ convergence rate. Similar to the classical dual subgradient algorithm and the ADMM algorithm, the new algorithm has a parallel implementation when the objective and constraint functions are separable. However, the new algorithm has a faster $O(1/t)$ convergence rate compared with the best known $O(1/\sqrt{t})$ convergence rate for the dual subgradient algorithm with primal averaging. Further, it can solve convex programs with nonlinear constraints, which cannot be handled by the ADMM algorithm. The new algorithm is applied to a multipath network utility maximization problem and yields a decentralized flow control algorithm with the fast $O(1/t)$ convergence rate.

研究动机与目标

• 为具有非可微目标函数和Lipschitz连续不等式约束的一般凸规划，开发一种简单且可并行化的算法。
• 实现比经典对偶次梯度方法（结合原始变量平均）更快的收敛速率，后者具有O(1/√t)的收敛速率。
• 突破ADMM的限制（ADMM仅适用于线性等式约束），通过处理非线性约束来扩展其适用范围。
• 在目标函数和约束可分离的网络效用最大化问题中，实现去中心化部署。
• 通过在多路径流量控制和二次规划问题上的数值实验，验证O(1/t)的收敛速率。

提出的方法

• 采用原始变量更新：在x ∈ X上最小化复合目标函数：f(x) + [Q(t) + g(x(t-1))]^T g(x) + α‖x - x(t-1)‖²。
• 采用虚拟队列更新规则：Q_k(t+1) = max{-g_k(x(t)), Q_k(t) + g_k(x(t))}，与标准对偶次梯度方法不同，其使用-g_k(x(t))而非0。
• 对原始迭代值进行平均：x̄(t) = (1/t) Σ_{τ=0}^{t-1} x(τ)，其收敛误差为O(1/t)。
• 当f(x)和g_k(x)在x的各组成部分或块上可分离时，确保算法可并行化。
• 使用参数α ≥ β²/2，其中β为g(x)的Lipschitz模，以保证收敛性。
• 利用强对偶性及拉格朗日乘子的存在性（假设2）来建立收敛性保证。

实验结果

研究问题

• RQ1 能否设计一种简单的原始-对偶算法，使其在具有非可微目标函数和非线性约束的一般凸规划中实现O(1/t)的收敛速率？
• RQ2 所提出的算法的收敛速率与采用原始变量平均的对偶次梯度方法相比如何？后者具有O(1/√t)的收敛速率。
• RQ3 当目标函数和约束函数可分离时，该算法是否可实现并行化？
• RQ4 在具有非线性约束的实际网络效用最大化问题中，该算法是否仍能保持快速收敛？
• RQ5 在大规模凸规划（如二次规划）中，O(1/t)的收敛速率是否可通过实验验证？

主要发现

• 所提出的算法实现了原始迭代平均x̄(t)的O(1/t)收敛速率，显著快于采用原始变量平均的对偶次梯度方法的O(1/√t)速率。
• 在多路径联合流量与功率控制问题上的数值结果表明，算法1的收敛速度优于采用原始变量平均的对偶次梯度算法。
• 在x ∈ ℝ¹⁰⁰的大规模二次规划中，当α = (1/2)β² + 1时，算法1的收敛速度优于步长为0.01的对偶次梯度方法。
• f(x̄(t)) - f*和约束违反量的双对数图显示，当t较大时，曲线与1/t平行，证实了O(1/t)的收敛速率。
• 与ADMM不同，该算法可处理非线性约束，而ADMM仅限于线性等式约束。
• 采用max{-g_k(x(t)), ...}的虚拟队列更新规则，相比标准对偶次梯度规则，能实现更快的收敛和更优的对偶变量跟踪。