[论文解读] A constant step Forward-Backward algorithm involving random maximal monotone operators

Pascal Bianchi, Walid Hachem+1 more|arXiv (Cornell University)|Feb 14, 2017

Optimization and Variational Analysis参考文献 30被引用 4

一句话总结

本文提出一种涉及随机最大单调算子的常数步长随机前向-后向算法，通过由均值算子构成的微分包含分析其收敛性。研究证明了插值过程在小步长下窄收敛于微分包含的解，并在一致单调性条件下证明了迭代序列在Cesàro平均意义下保持接近和算子零点集，其遍历行为通过关联马尔可夫链的不变测度表征。

ABSTRACT

A stochastic Forward-Backward algorithm with a constant step is studied. At each time step, this algorithm involves an independent copy of a couple of random maximal monotone operators. Defining a mean operator as a selection integral, the differential inclusion built from the sum of the two mean operators is considered. As a first result, it is shown that the interpolated process obtained from the iterates converges narrowly in the small step regime to the solution of this differential inclusion. In order to control the long term behavior of the iterates, a stability result is needed in addition. To this end, the sequence of the iterates is seen as a homogeneous Feller Markov chain whose transition kernel is parameterized by the algorithm step size. The cluster points of the Markov chains invariant measures in the small step regime are invariant for the semiflow induced by the differential inclusion. Conclusions regarding the long run behavior of the iterates for small steps are drawn. It is shown that when the sum of the mean operators is demipositive, the probabilities that the iterates are away from the set of zeros of this sum are small in Ces\\`aro mean. The ergodic behavior of these iterates is studied as well. Applications of the proposed algorithm are considered. In particular, a detailed analysis of the random proximal gradient algorithm with constant step is performed.

研究动机与目标

• 研究在随机最大单调算子下，固定步长的随机前向-后向算法的动力学行为。
• 建立插值迭代序列在小步长下收敛于由均值算子驱动的微分包含的解。
• 通过关联Feller马尔可夫链的不变测度表征迭代序列的长期行为。
• 证明当均值算子之和满足半正则性时，迭代序列在Cesàro平均意义下保持接近和算子的零点集。
• 分析算法的遍历性质，并将该框架应用于常数步长的随机邻近梯度法。

提出的方法

• 算法采用固定步长γ，每一步从概率空间(Ξ, G)中独立抽取随机最大单调算子A(ξn)与B(ξn)，其分布为μ。
• 均值算子定义为A = ∫A(s)μ(ds)与B = ∫B(s)μ(ds)，其中积分采用选择积分形式，构成由A + B控制的微分包含。
• 在小步长条件下，证明了迭代序列的插值过程窄收敛于微分包含的解。
• 将迭代序列建模为具有γ参数化转移核的齐次Feller马尔可夫链，从而可分析其不变测度。
• 证明当γ → 0时，不变测度的聚点对由微分包含诱导的半流是不变的。
• 通过分析经验测度的弱收敛性，并利用Mazur定理在L1+ε/2空间中提取收敛子序列，研究其遍历行为。

实验结果

研究问题

• RQ1 在小步长条件下，常数步长随机前向-后向迭代的插值过程是否收敛于由均值算子定义的微分包含的解？
• RQ2 当步长固定且较小时，迭代序列的长期行为如何，特别是其与均值算子之和的零点集的接近程度如何？
• RQ3 随着步长γ趋近于零，与算法关联的马尔可夫链的不变测度如何演化？
• RQ4 在何种条件下，算法能保证迭代序列在Cesàro平均意义下保持接近解集？
• RQ5 迭代序列的遍历性质能否被表征，其与微分包含半流的关系如何？

主要发现

• 在小步长条件下，插值过程窄收敛于由均值算子之和A + B定义的微分包含的解。
• Feller马尔可夫链的不变测度的聚点对由微分包含诱导的半流是不变的。
• 当A + B满足半正则性时，迭代序列远离A + B零点集的概率在Cesàro平均意义下很小。
• 迭代序列的遍历行为通过经验测度弱收敛于半流不变测度来表征。
• 在相同假设下，常数步长的随机邻近梯度算法也满足相同的收敛性与遍历性性质。
• 通过L1+ε/2空间中的紧致性与Mazur定理实现子序列提取，建立了紧致性与分布收敛性。