[论文解读] A Stronger Convergence Result on the Proximal Incremental Aggregated Gradient Method

N. Denizcan Vanli, Mert Gürbüzbalaban+1 more|arXiv (Cornell University)|Nov 23, 2016

Stochastic Gradient Optimization Techniques参考文献 4被引用 8

一句话总结

本文为求解具有光滑与非光滑分量的复合凸优化问题，提出了Proximal Incremental Aggregated Gradient（PIAG）方法更强的全局线性收敛速率。通过采用新颖的李雅普诺夫函数分析与精细化的压缩论证，作者建立了改进的迭代复杂度𝒪(QK log(1/ε))——在条件数Q与延迟参数K上均为线性依赖，取代了以往对K的二次依赖。

ABSTRACT

We study the convergence rate of the proximal incremental aggregated gradient (PIAG) method for minimizing the sum of a large number of smooth component functions (where the sum is strongly convex) and a non-smooth convex function. At each iteration, the PIAG method moves along an aggregated gradient formed by incrementally updating gradients of component functions at least once in the last $K$ iterations and takes a proximal step with respect to the non-smooth function. We show that the PIAG algorithm attains an iteration complexity that grows linear in the condition number of the problem and the delay parameter $K$. This improves upon the previously best known global linear convergence rate of the PIAG algorithm in the literature which has a quadratic dependence on $K$.

研究动机与目标

• 改进复合凸优化问题中Proximal Incremental Aggregated Gradient（PIAG）方法的全局收敛速率。
• 解决先前PIAG收敛结果中对延迟参数K的次优二次依赖问题。
• 建立一个更紧致的迭代复杂度界，使其在条件数Q与延迟参数K上均呈线性增长。
• 通过精细化的李雅普诺夫函数方法，统一并强化[1]与[4]中现有的收敛分析。
• 提供一个步长规则，确保线性收敛，并在问题条件数与延迟方面达到最优依赖。

提出的方法

• 该方法采用近端增量聚合梯度更新，其中各分量函数的梯度以有界延迟K进行更新，并在每次迭代中聚合。
• 算法通过非光滑凸正则化函数r(x)的近端步骤实现，定义如下：prox_r^η(y) = argmin_x { ||x−y||²/2 + ηr(x) }。
• 构建了一个新颖的李雅普诺夫函数，以捕捉子最优性F_k − F*的演化过程，从而实现对延迟梯度扰动的压缩性分析。
• 收敛性证明结合了两个关键引理：一个来自[4]关于近端算子的性质，另一个来自[1]关于小扰动下李雅普诺夫函数的线性收敛性。
• 推导出子最优性F_k的压缩不等式，从而得到满足引理3.3条件的递推关系，实现线性收敛。
• 步长选取为η = (16/μ)[(1 + 1/(48Q))^{1/(K+1)} − 1]，确保压缩因子与K呈线性关系。

实验结果

研究问题

• RQ1 PIAG方法的收敛速率能否超越先前已知的𝒪(QK²)迭代复杂度？
• RQ2 PIAG收敛速率中对延迟参数K的依赖是否可实现线性而非二次缩放？
• RQ3 能否通过考虑延迟梯度信息的李雅普诺夫函数，实现更紧致的压缩性分析？
• RQ4 是否可能在函数子最优性上实现全局线性收敛速率，并在Q与K上均呈线性依赖？
• RQ5 何种步长规则可确保最优收敛，且对K与Q的依赖最小？

主要发现

• PIAG方法在函数子最优性F(x_k) − F(x*)上实现了全局线性收敛速率1 − 𝒪(Q⁻¹K⁻¹)。
• 这意味着达到ε-最优解的迭代复杂度被改进为𝒪(QK log(1/ε))，取代了先前的𝒪(QK² log(1/ε))界。
• 该收敛速率通过考虑有界延迟K的延迟梯度更新的精细化李雅普诺夫函数分析建立。
• 步长η = (16/μ)[(1 + 1/(48Q))^{1/(K+1)} − 1]确保线性收敛，压缩因子为(1 − 1/(49Q(K+1)))^k。
• 该结果为确定性增量聚合梯度方法在条件数Q与延迟参数K方面提供了目前最优的依赖关系。
• 该分析统一并强化了[1]与[4]中的先前结果，提供了更紧致的全局界，且压缩率中不包含对数因子。