[论文解读] Asymptotic behavior of compositions of under-relaxed nonexpansive operators

Jean-Bernard Baillon, Patrick L. Combettes+1 more|arXiv (Cornell University)|Apr 26, 2013

Optimization and Variational Analysis参考文献 21被引用 4

一句话总结

本文在希尔伯特空间中建立了非扩张算子的欠松弛复合与它们平均算子的不动点之间的渐近联系。证明了当松弛参数 ε→0 时，欠松弛循环迭代的极限环弱收敛（在正则性条件下强收敛）到平均平方距离函数的最小化点，从而证实了 De Pierro 对仿射子空间及更一般的凸集投影的猜想。

ABSTRACT

In general there exists no relationship between the fixed point sets of the composition and of the average of a family of nonexpansive operators in Hilbert spaces. In this paper, we establish an asymptotic principle connecting the cycles generated by under-relaxed compositions of nonexpansive operators to the fixed points of the average of these operators. In the special case when the operators are projectors onto closed convex sets, we prove a conjecture by De Pierro which has so far been established only for projections onto affine subspaces.

研究动机与目标

• 解决长期悬而未决的开放问题：将非扩张算子欠松弛复合的不动点与它们平均算子的不动点联系起来。
• 建立一个一般性的渐近原理，将欠松弛迭代的极限环与平均平方距离函数的最小化点联系起来。
• 证明 De Pierro 猜想在投影到闭凸集上的情况，将先前在仿射子空间上的结果推广到更广泛的凸集类。
• 刻画极限环弱收敛或强收敛于平均算子不动点的条件。

提出的方法

• 引入欠松弛复合 $ R^\nu $，定义为 $ R^\nu = (\text{Id} + \nu(T_m - \text{Id})) \bigcirc \cdots \bigcirc (\text{Id} + \nu(T_1 - \text{Id})) $，其中 $ \nu \to 0^+ $，推广了迭代方法中的松弛概念。
• 分析由周期性欠松弛迭代 $ y_{k\nu}^\nu $ 生成的序列的弱极限环 $ (x_i^\nu) $，证明其收敛于耦合不动点方程的解。
• 应用希尔伯特空间中非扩张算子与单调算子分裂的理论，利用预解算子和投影的性质。
• 使用子空间 $ (E_i) $ 的正则性概念，定义为 $ \max_i d_{E_i}(y_k) \to 0 \Rightarrow d_E(y_k) \to 0 $，以确保强收敛。
• 将问题约化到子空间 $ y_0 + E^\bot $，其中 $ E = \bigcap E_i $，并在该子空间中应用压缩映射论证以证明收敛。
• 通过平均算子 $ T = \frac{1}{m}\sum T_i $ 和欠松弛复合 $ R^\nu $ 在相关仿射子空间中的压缩性质，建立收敛性。

实验结果

研究问题

• RQ1 非扩张算子欠松弛复合的不动点与它们平均算子的不动点之间是否存在关系？
• RQ2 De Pierro 猜想——即欠松弛循环投影收敛于最小二乘解——是否对一般闭凸集（而不仅限于仿射子空间）成立？
• RQ3 在何种条件下，欠松弛迭代的极限环强收敛于平均平方距离的最小化点？
• RQ4 欠松弛复合的渐近行为能否在不同类别的非扩张算子中统一刻画？

主要发现

• 对于闭凸集 $ C_i $ 上的投影，欠松弛迭代的极限环 $ (x_i^\nu) $ 在 $ \nu \to 0^+ $ 时弱收敛于 $ \overline{x} = P_S y_0 $，其中 $ S $ 是函数 $ \Phi(x) = \frac{1}{2m}\sum d_{C_i}^2(x) $ 的最小化点集合。
• 在法空间 $ E_i $ 的正则性条件下，$ x_i^\nu $ 到 $ \overline{x} $ 的收敛是强收敛，而不仅仅是弱收敛。
• 该结果证实了 De Pierro 猜想在投影到仿射子空间上的情况，并将其推广到无界凸柱体 $ B_i + E_i $，其中 $ B_i $ 有界，$ E_i $ 为闭子空间。
• 证明了平均算子 $ T $ 的不动点集与 $ \Phi $ 的最小化点集一致，且该集合为仿射集：$ S = z + E $，其中 $ E = \bigcap E_i $。
• 在条件 $ \|L \circ P_{E^\bot}\| < 1 $ 下，其中 $ L = \frac{1}{m}\sum P_{E_i} $，通过在仿射子空间 $ y_0 + E^\bot $ 中应用压缩映射论证，建立了 $ x_i^\nu $ 到 $ \overline{x} $ 的收敛性。
• 从推论 3.9 推导出 [7] 中主要结果的另一种证明，表明 $ (E_i) $ 的正则性意味着极限环的存在性及其收敛于最小二乘解。