[论文解读] Incremental Gradient, Subgradient, and Proximal Methods for Convex Optimization: A Survey

Dimitri P. Bertsekas|arXiv (Cornell University)|Jul 3, 2015

Stochastic Gradient Optimization Techniques被引用 11

一句话总结

本文综述了凸优化中的增量梯度、次梯度和邻近方法，分析了在循环分量选择和递减步长下的收敛性。证明了生成的序列收敛到最优值，且 lim inf F(x_k) = F*，在标准步长条件下，对于非空解集，建立了全局收敛性。

ABSTRACT

We survey incremental methods for minimizing a sum $\sum_{i=1}^mf_i(x)$ consisting of a large number of convex component functions $f_i$. Our methods consist of iterations applied to single components, and have proved very effective in practice. We introduce a unified algorithmic framework for a variety of such methods, some involving gradient and subgradient iterations, which are known, and some involving combinations of subgradient and proximal methods, which are new and offer greater flexibility in exploiting the special structure of $f_i$. We provide an analysis of the convergence and rate of convergence properties of these methods, including the advantages offered by randomization in the selection of components. We also survey applications in inference/machine learning, signal processing, and large-scale and distributed optimization.

研究动机与目标

• 提供凸优化中增量一阶方法（包括梯度、次梯度和邻近变体）的全面综述。
• 分析这些方法在循环分量选择和递减步长下的收敛行为。
• 在标准假设下，建立收敛到最优解值的理论保证。
• 将收敛结果扩展到最优解集非空且步长序列满足可 summability 和趋于零条件的情形。

提出的方法

• 分析算法 (2.12)–(2.14)，其通过循环顺序选择目标函数的分量进行增量更新。
• 采用递减步长序列 α_k，满足 lim_k→∞ α_k = 0 且 ∑_k=0^∞ α_k = ∞，以确保持续探索。
• 使用增量次梯度方法的框架，其中各分量函数按循环方式处理。
• 应用收敛性分析技术，表明迭代序列沿目标函数值的下确界趋近于最优值。
• 依赖凸分析中的标准假设，包括分量的凸性及次梯度的有界性。
• 通过 lim inf_k→∞ F(x_k) = F* 建立收敛性，表明函数值序列在最优值处累积。

实验结果

研究问题

• RQ1 在何种条件下，增量梯度、次梯度和邻近方法收敛到最优解值？
• RQ2 循环分量选择如何影响增量一阶方法的收敛行为？
• RQ3 何种步长条件可确保目标函数值序列趋近于最优值？
• RQ4 当最优解集非空且采用递减步长时，能否保证收敛？
• RQ5 步长序列的可 summability 和趋于零条件在确保收敛中起什么作用？

主要发现

• 采用循环分量选择的增量方法 (2.12)–(2.14) 所生成的序列 {x_k} 满足 lim inf_k→∞ F(x_k) = F*，表明收敛到最优值。
• 在 lim_k→∞ α_k = 0 且 ∑_k=0^∞ α_k = ∞ 的条件下，可保证收敛到最优值。
• 即使最优解集 X* 非空，只要满足步长条件，该结果依然成立。
• 分析结果证实，采用循环选择和递减步长的增量方法在目标值意义上实现了全局收敛。