[论文解读] Proximal-Proximal-Gradient Method

Ernest K. Ryu, Wotao Yin|arXiv (Cornell University)|Aug 23, 2017

Sparse and Compressive Sensing Techniques参考文献 52被引用 28

一句话总结

本文提出了近端-近端梯度法（PPG），一种新颖的一阶优化算法，能够高效处理涉及大量可微与不可微凸函数之和的大规模问题，包括耦合项与非可分项。PPG 可直接以恒定步长进行优化，且在强凸性和利普希茨连续梯度假设下实现 Q-线性收敛，因此特别适用于并行与分布式计算环境。

ABSTRACT

In this paper, we present the proximal-proximal-gradient method (PPG), a novel optimization method that is simple to implement and simple to parallelize. PPG generalizes the proximal-gradient method and ADMM and is applicable to minimization problems written as a sum of many differentiable and many non-differentiable convex functions. The non-differentiable functions can be coupled. We furthermore present a related stochastic variation, which we call stochastic PPG (S-PPG). S-PPG can be interpreted as a generalization of Finito and MISO over to the sum of many coupled non-differentiable convex functions. We present many applications that can benefit from PPG and S-PPG and prove convergence for both methods. A key strength of PPG and S-PPG is, compared to existing methods, its ability to directly handle a large sum of non-differentiable non-separable functions with a constant stepsize independent of the number of functions. Such non-diminishing stepsizes allows them to be fast.

研究动机与目标

• 开发一种简单、可扩展的一阶优化方法，能够直接处理包含大量不可微、可能耦合的凸函数之和的问题。
• 通过允许对不可微项之和不可计算近端算子的问题实现直接优化，推广现有方法（如近端梯度法与 ADMM）。
• 设计一种支持与函数数量无关的恒定步长的方法，从而实现更快的收敛速度。
• 将方法扩展至随机变体（S-PPG），以适用于大规模与流式数据应用场景。
• 证明收敛性并展示其在并行与 GPU 加速环境中的实证有效性。

提出的方法

• PPG 求解如下形式的优化问题：min r(x) + (1/n)∑(fi(x) + gi(x))，其中 fi 可微，而 gi 与 r 为凸函数且可计算近端算子。
• 该算法包含三个顺序更新步骤：通过 r 的近端算子对 z_i^k 的平均值进行 x^{k+1/2} 更新；通过 gi 的近端算子对梯度步长进行 x_i^{k+1} 更新；通过一致性更新对 z_i^{k+1} 进行更新。
• 该方法天然支持并行计算：各工作节点独立执行 z_i 更新，而 x^{k+1/2} 需通过 all-reduce 操作计算平均值。
• 该方法支持与函数数量 n 无关的恒定步长 α，从而相比需要递减步长的方法，实现更快收敛。
• 其随机变体 S-PPG 将 Finito 和 MISO 推广至处理耦合的不可微函数之和。
• 收敛性分析基于一个包含原始-对偶变量 z 与次梯度项的李雅普诺夫函数，通过函数 S(z, z*) 精确捕捉最优性条件，从而推导出紧致的上下界。

实验结果

研究问题

• RQ1 是否存在一种一阶方法，能够高效求解包含大量不可微、耦合凸函数的大规模优化问题？
• RQ2 该方法能否在与函数数量无关的前提下维持恒定步长，从而实现更快收敛？
• RQ3 如何设计该方法，使其天然支持并行计算，适用于分布式或 GPU 加速计算环境？
• RQ4 能否将该方法扩展为随机变体，使其推广 Finito 与 MISO 以处理非可分的不可微项？
• RQ5 在何种条件下，该方法可实现 Q-线性收敛？

主要发现

• 当问题满足强凸性与利普希茨连续梯度条件时，PPG 实现 Q-线性收敛，收敛速率满足 ∥zk+1 − z∗∥ ≤ √(1 − 2αC)∥zk − z∗∥。
• 该方法支持与函数数量 n 无关的恒定步长 α，从而相比需递减步长的方法，收敛速度更快。
• 通过引入包含次梯度项 S(z, z*) 的李雅普诺夫函数，证明了收敛性，该函数同时收紧了误差的上下界。
• 其随机变体 S-PPG 将 Finito 与 MISO 推广至处理非可分的不可微函数之和，显著扩展了其适用范围。
• 在 CUDA GPU 上的实证结果表明，该方法在并行环境中具有优异的实证有效性与可扩展性。
• 由于不可微项之间的耦合，方法的 O(nd) 存储复杂度本质上是必需的，而 PPG 高效利用该信息以验证最优性。