[论文解读] Restricted normal cones and the method of alternating projections

Heinz H. Bauschke, D. Lüke+2 more|arXiv (Cornell University)|May 2, 2012

Optimization and Variational Analysis参考文献 18被引用 7

一句话总结

本文引入了受限法锥（restricted normal cone），作为Mordukhovich法锥的推广，以将交替投影法（MAP）的收敛性分析扩展至非凸及结构化集合。通过利用受限法锥结合约束资格条件与正则性条件，作者建立了当两个闭凸集相交非空、为线性子空间或凸集并集时，MAP的局部线性收敛性，从而解决了先前框架在经典凸情形（如R³中两条相交直线）下失效的局限性。

ABSTRACT

The method of alternating projections (MAP) is a common method for solving feasibility problems. While employed traditionally to subspaces or to convex sets, little was known about the behavior of the MAP in the nonconvex case until 2009, when Lewis, Luke, and Malick derived local linear convergence results provided that a condition involving normal cones holds and at least one of the sets is superregular (a property less restrictive than convexity). However, their results failed to capture very simple classical convex instances such as two lines in three-dimensional space. In this paper, we extend and develop the Lewis-Luke-Malick framework so that not only any two linear subspaces but also any two closed convex sets whose relative interiors meet are covered. We also allow for sets that are more structured such as unions of convex sets. The key tool required is the restricted normal cone, which is a generalization of the classical Mordukhovich normal cone. We thoroughly study restricted normal cones from the viewpoint of constraint qualifications and regularity. Numerous examples are provided to illustrate the theory.

研究动机与目标

• 填补交替投影法（MAP）在非凸设置下收敛性理论的空白，特别是针对经典凸情形（如R³中两条相交直线）的收敛性分析。
• 将依赖于超正则性与法锥条件的Lewis-Luke-Malick框架推广，以涵盖此前结果失效的凸集与线性子空间。
• 通过引入一种适应问题几何结构的新法锥概念，统一非凸收敛结果与经典凸分析。
• 提供一个灵活的框架，通过在法锥上施加不同程度的限制（从全空间到边界或基于投影的集合），分析MAP的收敛性。
• 使MAP能够应用于结构化集合（如凸集或超正则集的并集），从而在优化与信号处理中拓展其应用范围。

提出的方法

• 将受限法锥定义为Mordukhovich法锥的推广，其相对于一个限制集合（如仿射包、边界或投影像）进行定义。
• 通过受限法锥定义(A, Ã, B, B̃)-CQ（约束资格）条件，用以评估集合A与B在交集中某点处的关系。
• 利用受限法锥提出MAP局部线性收敛的新充分条件，以更具适应性的版本替代经典法锥。
• 以A ∪ B的仿射包作为限制集合，恢复经典凸收敛结果，如两个线性子空间的线性收敛性。
• 通过选择适当的限制集合（如边界或投影像），将该框架应用于非凸情形，包括凸集的并集与非光滑集合。
• 借助变分分析中的工具（包括超正则性与正则性），分析在新受限锥框架下MAP的行为。

实验结果

研究问题

• RQ1 能否将MAP的收敛性理论扩展至包含经典凸情形（如R³中两条相交直线）的非凸集合，这些情形此前不在非凸收敛结果的适用范围内？
• RQ2 如何将Lewis-Luke-Malick框架中的法锥条件推广，以同时处理凸集与非凸集，同时保持局部线性收敛性？
• RQ3 受限法锥中的限制集合（Ã, B̃）起什么作用？不同选择（如X×X、aff(A∪B)、边界、投影像）如何影响收敛条件的适用性与强度？
• RQ4 受限法锥框架能否在单一理论框架下统一现有凸集与非凸集的收敛结果？
• RQ5 当集合为凸集或超正则集的并集时，MAP在何种条件下实现线性收敛？

主要发现

• 受限法锥使MAP在两个线性子空间情形下恢复了局部线性收敛性，解决了Lewis-Luke-Malick框架的关键局限性。
• 当限制集合选择为A ∪ B的仿射包时，该框架恢复了经典凸收敛结果，如R³中两条相交直线的线性收敛性。
• 当Ã = aff(A ∪ B)且B̃ = aff(A ∪ B)时，(A, Ã, B, B̃)-CQ条件可确保任意两个闭凸集（交集非空）的局部线性收敛性。
• 对于非凸集（如凸集的并集），通过选择更具攻击性的限制集合（如集合的边界或投影像），该框架可实现线性收敛。
• 该框架成功处理了经典法锥方法失效的情形（如N_A(c) ∩ (-N_B(c)) ≠ {0}），通过使用能消除虚假法向量的受限锥。
• 在例10.29中，选择(Ã, B̃) = (P_A((bdry B) ackslash A), P_B((bdry A) ackslash B))时，受限法锥退化为{0}，满足CQ条件并确保有限收敛，展示了该框架的灵活性与强大表现力。