[论文解读] Regularity of collections of sets and convergence of inexact alternating projections

Alexander Y. Kruger, Nguyen Hieu Thao|arXiv (Cornell University)|Jan 17, 2015

Optimization and Variational Analysis参考文献 23被引用 21

一句话总结

该论文通过利用集合的细化正规性性质，建立了可行性问题中不精确交替投影方法的收敛速率。通过引入 $\sigma$-投影，并结合受限法向量锥与超正则性，证明了在弱于经典一致正规性的条件下，收敛速率达到 R-线性且速率为 $\sqrt{c}$，从而提升了对非凸及类非凸情形的适用性。

ABSTRACT

We study the usage of regularity properties of collections of sets in convergence analysis of alternating projection methods for solving feasibility problems. Several equivalent characterizations of these properties are provided. Two settings of inexact alternating projections are considered and the corresponding convergence estimates are established and discussed.

研究动机与目标

• 研究有限维空间中可行性问题的不精确交替投影方法的收敛性。
• 通过将经典的一致正规性替换为专为交替投影设计的受限正规性性质，改进经典收敛结果。
• 在弱于以往工作的假设下，建立 R-线性收敛速率，尤其适用于非凸集。
• 通过仅关注投影过程中相关的法向量和方向，提升收敛理论的适用性。
• 提供以正规性常数和不精确性参数表示的收敛性定量估计。

提出的方法

• 引入 $\sigma$-投影作为精确投影的松弛形式，允许由 $\sigma \in [0,1)$ 控制的不精确性。
• 使用受限极限法向量锥 $\overline{N}_A^B(\bar{x})$ 和 $\overline{N}_B^A(\bar{x})$，仅捕捉与交替投影相关方向。
• 基于向量 $b - a_2$、$u$ 和 $v$ 之间夹角的估计，利用余弦与正弦的有界性推导压缩不等式。
• 建立递推不等式 $\|x_{n+2} - x_{n+1}\| \leq c \|x_{n+1} - x_n\|$，其中 $c < 1$，从而蕴含 R-线性收敛。
• 在邻域 $\mathbb{B}_\delta(\bar{x})$ 内应用柯西序列论证，以确保收敛至 $A \cap B$。
• 采用 BLPW-受限正规性与 $B$-超正则性作为经典一致正规性与超正则性的替代。

实验结果

研究问题

• RQ1 能否在弱于经典一致正规性的正规性假设下，建立不精确交替投影的收敛速率？
• RQ2 将法向量锥限制为仅与交替投影相关的方向，对收敛性分析有何影响？
• RQ3 由 $\sigma$ 控制的不精确性对方法的收敛速率与稳定性有何影响？
• RQ4 当两个集合均为超正则时，收敛速率是否可进一步提升？若可，如何实现？
• RQ5 能否通过使用细化的正规性概念，将 Bregman 与 Bauschke & Borwein 的经典收敛结果推广至非凸情形？

主要发现

• 当 $\hat{c}[A,B](\bar{x}) < 1$ 且 $A$ 在 $\bar{x}$ 处为超正则时，$\sigma$-交替投影方法实现 R-线性收敛，收敛速率为 $\sqrt{c}$，其中 $c \in (\bar{c}, 1)$。
• 当 $A$ 与 $B$ 均为超正则时，收敛速率得以保持并可提升至 $c$，这是由于每一步迭代均呈现对称压缩。
• 若初始点位于 $\mathbb{B}_\rho(\bar{x})$ 内，其中 $\rho = \frac{1-c}{5-c}\delta$，则 $\sigma$-投影序列将保持在邻域 $\mathbb{B}_\delta(\bar{x})$ 内，从而确保局部正规性条件的适用性。
• 收敛估计对不精确性具有鲁棒性：当 $\sigma < 1$ 时方法仍保持收敛，且随着 $\sigma \to 0$，收敛速率趋近于精确情况。
• 使用受限法向量锥与 BLPW-受限正规性，可在严格弱于经典一致正规性的假设下实现收敛。
• 基于向量与法向量之间夹角估计的几何论证，为压缩速率提供了定量基础，其中 $c_1$ 与 $\sigma$ 在控制相关角度的余弦与正弦有界性方面起关键作用。