[论文解读] Algorithms and Convergence Results of Projection Methods for Inconsistent Feasibility Problems: A Review

Yair Censor, Maroun Zaknoon|arXiv (Cornell University)|Feb 21, 2018

Optimization and Variational Analysis参考文献 53被引用 50

一句话总结

对不一致的凸可行性问题的投影方法的全面综述，总结收敛结果、算法与关键理论发展。

ABSTRACT

The convex feasibility problem (CFP) is to find a feasible point in the intersection of finitely many convex and closed sets. If the intersection is empty then the CFP is inconsistent and a feasible point does not exist. However, algorithmic research of inconsistent CFPs exists and is mainly focused on two directions. One is oriented toward defining other solution concepts that will apply, such as proximity function minimization wherein a proximity function measures in some way the total violation of all constraints. The second direction investigates the behavior of algorithms that are designed to solve a consistent CFP when applied to inconsistent problems. This direction is fueled by situations wherein one lacks a priori information about the consistency or inconsistency of the CFP or does not wish to invest computational resources to get hold of such knowledge prior to running his algorithm. In this paper we bring under one roof and telegraphically review some recent works on inconsistent CFPs.

研究动机与目标

• 总结不一致的凸可行性问题（CFP）的主要概念与动机。
• 综述用于处理 CFP 不一致性的历史和最新的基于投影的算法。
• 突出展示各种投影方案的收敛结果及条件。
• 架起理论（不动点、变分不等式）与投影方法的实际应用之间的联系。

提出的方法

• 讨论两个集合的投影算子的组合与收敛性，以及向多集合的扩展。
• 描述循环投影和块迭代投影方案及其收敛性。
• 在不一致情形下解释最小二乘解释和块-Kaczmarz松弛结果。
• 总结将 CFP 转换为等价优化问题的乘积空间重构。
• 概述基于 Bregman 投影的邻近性函数最小化及相关算法方案。
• 给出串-平均投影（SAP）及其在不一致情形下的收敛性。

实验结果

研究问题

• RQ1 当约束集的交集为空时，经典投影方法表现出何种收敛性质？
• RQ2 在何种条件下，循环、块迭代和串-平均投影方案收敛，以及收敛速率如何？
• RQ3 乘积空间重构和邻近性函数最小化如何影响解决不一致 CFP？
• RQ4 在下放松投影方法的背景下，De Pierro 猜想的状态如何？

主要发现

• 在各种假设下，投影方法可以收敛到不动点或最小二乘/附近解，适用于不一致的 CFP。
• 循环投影和块迭代投影在有界性、有限维或多面体集合等条件下表现出弱收敛或强收敛。
• 下放松和块-Kaczmarz 松弛在放松参数趋近于零时导致的极限趋向于最小二乘解。
• 乘积空间重构使并行投影方法能够解决不一致的 CFP，并获得收敛结果。
• 基于 Bregman 投影的邻近性最小化提供一个框架，在其中收敛到邻近性函数的最小化解。
• 串-平均投影通过统一框架扩展适用性并在不一致情形下保持收敛。