[论文解读] The Incremental Proximal Method: A Probabilistic Perspective

Ömer Deniz Akyıldız, V́ıctor Elvira+1 more|arXiv (Cornell University)|Apr 15, 2018

Sparse and Compressive Sensing Techniques参考文献 20被引用 5

一句话总结

本文建立了增量近似法（IPM）与随机滤波之间的概率等价关系，表明在线性-二次问题中，IPM在数学上等价于卡尔曼滤波。此外，本文进一步证明扩展卡尔曼滤波（EKF）为非线性场景下传统IPM与SGD提供了一种稳定且具备不确定性感知的替代方案，通过后验协方差衰减实现自然的步长自适应。

ABSTRACT

In this work, we highlight a connection between the incremental proximal method and stochastic filters. We begin by showing that the proximal operators coincide, and hence can be realized with, Bayes updates. We give the explicit form of the updates for the linear regression problem and show that there is a one-to-one correspondence between the proximal operator of the least-squares regression and the Bayes update when the prior and the likelihood are Gaussian. We then carry out this observation to a general sequential setting: We consider the incremental proximal method, which is an algorithm for large-scale optimization, and show that, for a linear-quadratic cost function, it can naturally be realized by the Kalman filter. We then discuss the implications of this idea for nonlinear optimization problems where proximal operators are in general not realizable. In such settings, we argue that the extended Kalman filter can provide a systematic way for the derivation of practical procedures.

研究动机与目标

• 建立增量近似法与随机滤波算法（如卡尔曼滤波）之间的正式联系。
• 证明在线性回归中，近似算子在高斯先验与似然下的对应关系为贝叶斯MAP估计。
• 证明卡尔曼滤波天然实现了线性-二次代价函数下的增量近似法。
• 通过扩展卡尔曼滤波（EKF）将该框架推广至非线性优化，作为非线性IPM步骤的实用近似。
• 提供一种内在包含不确定性量化概率解释，克服标准IPM与SGD的关键局限。

提出的方法

• 证明带有二次正则化的最小二乘回归的近似算子，等价于在高斯先验与似然下的MAP估计。
• 推导近似算子的显式更新方程，并表明其在直线性情况下与卡尔曼滤波更新等价。
• 将概率解释应用于增量近似法，将每一步视为具有时间不变先验的贝叶斯更新。
• 提出扩展卡尔曼滤波（EKF）作为非线性IPM步骤的实用递归近似，当闭式解不可行时适用。
• 利用EKF递推关系推导出稳定且自适应的参数更新，其随不确定性降低而自然衰减。
• 证明EKF中的后验协方差矩阵随时间收敛至零，从而确保稳定收敛。

实验结果

研究问题

• RQ1 增量近似法与随机滤波算法（如卡尔曼滤波）之间是否存在根本性联系？
• RQ2 在线性回归中，近似算子是否可在高斯假设下解释为贝叶斯MAP估计？
• RQ3 如何利用卡尔曼滤波以确保数值稳定性的方式实现增量近似法？
• RQ4 扩展卡尔曼滤波能否作为标准IPM与SGD在非线性优化中的系统性、具备不确定性感知的替代方案？
• RQ5 使用滤波算法对非平稳或时变优化问题有何影响？

主要发现

• 当先验与似然为高斯分布时，带有二次正则化的线性最小二乘回归的近似算子在数学上等价于卡尔曼滤波更新。
• 卡尔曼滤波为线性-二次问题提供了稳定且递归的增量近似法实现，具备自然的步长自适应能力。
• 扩展卡尔曼滤波（EKF）为非线性IPM步骤提供了系统性、具备不确定性感知的近似，避免了直接近似求解器中常见的数值不稳定性。
• EKF中的后验协方差矩阵随时间收敛至零，从而自然衰减参数更新，防止发散。
• 数值结果表明，基于EKF的优化器收敛稳定，而直接近似IPM在最小值附近表现出不稳定性。
• 概率框架通过后验协方差实现了不确定性量化，这是标准IPM与SGD所不具备的特性。