[论文解读] A Stochastic Operator Framework for Inexact Static and Online Optimization.

Nicola Bastianello, Liam Madden+2 more|arXiv (Cornell University)|May 20, 2021

Sparse and Compressive Sensing Techniques参考文献 49被引用 8

一句话总结

本文提出了一种统一的随机算子框架，通过在希尔伯特空间中对可分算子使用随机巴拿赫-皮卡德迭代，分析不精确和在线优化算法。在子威布尔误差和随机坐标更新下，无需假设误差或参数趋于零，即可实现均值收敛和高概率收敛，并可扩展至在线优化中的时变问题。

ABSTRACT

This paper provides a unified stochastic operator framework to analyze the convergence of iterative optimization algorithms for both static problems and online optimization and learning. In particular, the framework is well suited for algorithms that are implemented in an inexact or stochastic fashion because of (i) stochastic errors emerging in algorithmic steps, and because (ii) the algorithm may feature random coordinate updates. To this end, the paper focuses on separable operators of the form $T x = (T_1 x, \ldots, T_n x)$, defined over the direct sum of possibly infinite-dimensional Hilbert spaces, and investigates the convergence of the associated stochastic Banach-Picard iteration. Results in terms of convergence in mean and in high-probability are presented when the errors affecting the operator follow a sub-Weibull distribution and when updates $T_i x$ are performed based on a Bernoulli random variable. In particular, the results are derived for the cases where $T$ is contractive and averaged in terms of convergence to the unique fixed point and cumulative fixed-point residual, respectively. The results do not assume vanishing errors or vanishing parameters of the operator, as typical in the literature (this case is subsumed by the proposed framework), and links with exiting results in terms of almost sure convergence are provided. In the online optimization context, the operator changes at each iteration to reflect changes in the underlying optimization problem. This leads to an online Banach-Picard iteration, and similar results are derived where the bounds for the convergence in mean and high-probability further depend on the evolution of fixed points (i.e., optimal solutions of the time-varying optimization problem).

研究动机与目标

• 统一分析静态和在线设置下不精确性和随机性条件下的迭代优化算法。
• 开发一种适用于无限维希尔伯特空间中可分算子的随机巴拿赫-皮卡德迭代框架。
• 在不假设误差或算子参数趋于零的条件下，建立均值收敛和高概率收敛。
• 将该框架扩展至在线优化场景，其中算子随时间演化，以反映时变优化问题。
• 将结果与现有几乎必然收敛文献相联系，并推广先前的研究成果。

提出的方法

• 该框架通过定义在希尔伯特空间直和上的可分算子 $ T x = (T_1 x, \ldots, T_n x) $ 建模优化算法。
• 采用随机巴拿赫-皮卡德迭代，其中每个分量 $ T_i x $ 基于伯努利随机变量进行随机更新。
• 在影响算法步骤的子威布尔分布误差下分析收敛性，允许重尾误差模型。
• 分析涵盖压缩算子（用于不动点收敛）和平均算子（用于残差收敛）。
• 在在线优化中，算子 $ T $ 随时间演化，收敛界依赖于最优解轨迹。
• 该框架通过不要求误差或参数趋于零，推广了现有结果，并将经典情形作为特例包含在内。

实验结果

研究问题

• RQ1 如何构建一个统一的框架，以分析静态和在线设置下不精确和随机优化算法？
• RQ2 在子威布尔误差分布下，随机巴拿赫-皮卡德迭代的收敛性保证是什么？
• RQ3 随机坐标更新和非趋于零的误差如何影响均值收敛和高概率收敛？
• RQ4 该框架能否处理最优解随时间演化的时变优化问题？
• RQ5 所提出的分析与现有几乎必然收敛结果有何关联，并如何加以推广？

主要发现

• 在子威布尔误差分布和随机坐标更新下，对压缩算子和平均算子均建立了均值收敛。
• 在不假设误差或算子参数趋于零的条件下，推导出高概率收敛界，推广了经典结果。
• 该框架适用于无限维希尔伯特空间，可支持复杂优化问题的分析。
• 在在线优化中，收敛界依赖于最优解路径随时间的变化。
• 通过允许非趋于零的误差和参数，该结果推广了现有几乎必然收敛框架。
• 该框架包含了误差或参数趋于零的经典情形，表明与先前文献的一致性。