[论文解读] Local convergence for alternating and averaged nonconvex projections
本文在强正则相交条件下,建立了交替法与平均非凸投影方法的局部线性收敛性,表明当一个集合为近端凸或满足类似几何条件时,收敛速率由正则性模数控制。该结果将经典收敛理论拓展至非凸设置,对信号处理与优化中的可行性问题具有实际意义。
The idea of a finite collection of closed sets having "strongly regular intersection" at a given point is crucial in variational analysis. We show that this central theoretical tool also has striking algorithmic consequences. Specifically, we consider the case of two sets, one of which we assume to be suitably "regular" (special cases being convex sets, smooth manifolds, or feasible regions satisfying the Mangasarian-Fromovitz constraint qualification). We then prove that von Neumann's method of "alternating projections" converges locally to a point in the intersection, at a linear rate associated with a modulus of regularity. As a consequence, in the case of several arbitrary closed sets having strongly regular intersection at some point, the method of "averaged projections" converges locally at a linear rate to a point in the intersection. Inexact versions of both algorithms also converge linearly.
研究动机与目标
- 在集合交集为强正则时,建立非凸投影算法的局部线性收敛性。
- 利用度量正则性与近端凸性,将经典收敛结果从凸设置推广至非凸设置。
- 证明仅需一个集合具备强几何正则性(如凸性、光滑性或近端凸性)即可实现收敛。
- 表明算法的不精确版本仍可实现线性收敛,从而增强实际适用性。
- 通过平均投影方法,提供精确极小化原理的算法化证明。
提出的方法
- 以冯·诺依曼的交替投影方法为基础,将其在乘积空间中重新表述,以分析平均投影。
- 应用度量正则性与正则性模数的概念,以界定收敛速率。
- 采用法锥定义与变分分析工具,不依赖高级理论工具。
- 将平均投影方法约化为高维空间中两个集合上的等价交替投影方案。
- 使用近端凸性与可及性作为所需几何正则性的充分条件。
- 通过随机矩阵的数值实验,说明压缩感知应用中收敛行为的表现。
实验结果
研究问题
- RQ1在何种条件下,平均投影方法在非凸可行性问题中实现线性收敛?
- RQ2当仅一个集合为凸或近端凸时,是否仍可建立局部线性收敛性,而非要求两个集合均满足?
- RQ3在非凸设置中,正则性模数与收敛速率之间有何关系?
- RQ4投影算法的不精确变体是否仍可实现线性收敛?
- RQ5平均投影方法是否能提供精确极小化原理的构造性证明?
主要发现
- 当闭集交集为强正则时,平均投影方法在局部范围内以线性速率收敛,收敛速率由正则性模数控制。
- 即使仅一个集合为近端凸或满足约束资格条件,局部线性收敛性依然成立,显著扩大了适用范围。
- 算法的不精确版本同样实现线性收敛,表明结果对计算误差具有鲁棒性。
- 收敛速率为Q线性,即每次迭代使误差按固定因子减小,压缩感知实例的数值结果已验证此特性。
- 数值结果表明收敛比值 f(U_{k+1})/f(U_k) < 0.9627,表明实际中呈现强烈的线性收敛。
- 该方法在变分分析中提供了精确极小化原理的构造性算法演示。
更好的研究,从现在开始
从阅读论文到最终审阅,大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成,并经人工编辑审核。