[论文解读] A probabilistic incremental proximal gradient method

Ömer Deniz Akyıldız, Émilie Chouzenoux+2 more|arXiv (Cornell University)|Dec 4, 2018

Sparse and Compressive Sensing Techniques参考文献 27被引用 5

一句话总结

本文提出概率增量近端梯度（PIPG）方法，这是一种新颖的框架，将增量近端梯度优化建模为状态空间模型中的贝叶斯推断，通过卡尔曼滤波实现不确定性量化。通过将参数估计建模为具有演化后验分布的随机变量，PIPG 提供自适应、数据驱动的度量更新，并输出完整的协方差矩阵，显著提升了在大规模正则化非线性最小二乘问题中标准随机方法（如SGD）的收敛性和鲁棒性。

ABSTRACT

In this paper, we propose a probabilistic optimization method, named probabilistic incremental proximal gradient (PIPG) method, by developing a probabilistic interpretation of the incremental proximal gradient algorithm. We explicitly model the update rules of the incremental proximal gradient method and develop a systematic approach to propagate the uncertainty of the solution estimate over iterations. The PIPG algorithm takes the form of Bayesian filtering updates for a state-space model constructed by using the cost function. Our framework makes it possible to utilize well-known exact or approximate Bayesian filters, such as Kalman or extended Kalman filters, to solve large-scale regularized optimization problems.

研究动机与目标

• 解决传统增量近端梯度方法在大规模优化中缺乏不确定性量化的问题。
• 开发一种概率框架，将参数估计建模为具有演化后验分布的随机变量。
• 通过将后验协方差矩阵作为可变度量，实现在增量优化中的自适应度量更新。
• 将卡尔曼滤波技术扩展应用于非线性、正则化问题的近端梯度算法。
• 提供一种系统化方法，将不确定性传播至迭代优化步骤中，提升鲁棒性和可解释性。

提出的方法

• 将增量近端梯度（IPG）算法重新表述为基于代价函数构建的状态空间模型（SSM）中的近似贝叶斯推断。
• 将优化问题建模为具有先验 p(θ) = N(θ; θ₀, V₀) 和似然 p(yₖ|θ) = N(yₖ; hₖ(θ), γ⁻¹) 的高斯过程，其中 yₖ 为观测值，hₖ 为分量函数。
• 应用扩展卡尔曼滤波（EKF）更新，递归计算后验均值 θₖ 和协方差 Vₖ，分别代表参数估计及其不确定性。
• 将后验协方差矩阵 Vₖ 用作优化步骤中的可变度量，实现基于不确定性的自适应步长控制。
• 在 EKF 更新框架中整合正则化项 g(θ) 的近端算子和 f(θ) 的梯度，保持原始 IPG 方法的结构。
• 推导出包含梯度步长、近端更新和不确定性传播的递归更新规则（公式 22–25），统一于单一滤波框架中。

实验结果

研究问题

• RQ1 能否将增量近端梯度方法重新解释为状态空间模型中的贝叶斯推断，以实现不确定性量化？
• RQ2 在概率优化框架中，后验协方差矩阵如何用于自适应更新优化中的度量？
• RQ3 与标准 SGD 和 IPG 相比，PIPG 方法在收敛速度和估计精度方面的性能提升如何？
• RQ4 PIPG 方法在高维、非线性且稀疏的优化问题中，对参数不确定性的捕捉能力如何？
• RQ5 能否通过概率解释将所提框架扩展至不可近端化的分量函数？

主要发现

• 在岭回归问题中，PIPG 的均方根误差（RMSE）低于 IPG 和 SGD，收敛速度更快，迭代次数更少。
• 在包含 n = 300,000 个数据点的非线性稀疏滤波识别任务中，PIPG 比 SGD 更快达到稳定性能，展现出更优的收敛速度。
• PIPG 生成的后验协方差矩阵 Vₙ 捕捉了参数间的相关性，相比仅使用对角线的不确定性估计，能实现更高效的优化步骤。
• 随时间演化的协方差矩阵（Vₖ）的对角线元素收敛至稳定值，量化了最终参数估计的不确定性，提供了可靠的不确定性区间（±2σᵢ）。
• PIPG 在优化过程中自然输出完整的不确定性量化结果（协方差矩阵），而标准 SGD 和 IPG 均不具备此功能。
• 尽管由于协方差矩阵更新导致复杂度为 O(d²)，PIPG 在数据受限场景中仍具有显著实际优势，可减少对数据集的遍历次数。