[论文解读] Weak convergence on Douglas-Rachford method

B. F. Svaiter|arXiv (Cornell University)|Jul 13, 2010

Optimization and Variational Analysis参考文献 7被引用 12

一句话总结

本文在实希尔伯特空间中，针对涉及两个极大单调算子的单调包含问题，建立了Douglas-Rachford分裂法的弱收敛性。在可 summable 误差容限下，该算法生成的序列弱收敛于满足 $0 \in A(\bar{x}) + B(\bar{x})$ 的解对 $(\bar{x}, \bar{b})$，将先前的强收敛结果推广至弱拓扑下的非精确迭代。

ABSTRACT

We prove that the sequences generate by the Douglas-Rachford method converge weakly to a solution of the inclusion problem

研究动机与目标

• 在可 summable 残差误差的非精确迭代下，建立Douglas-Rachford方法的弱收敛性。
• 将Lions和Mercier的强收敛结果推广至极大单调算子一般设定下的弱收敛。
• 分析算法生成的迭代序列 $\{(x_k, b_k)\}$ 和 $\{(y_k, a_k)\}$ 的收敛行为。
• 证明迭代序列的弱极限点属于解集 $S(A,B) = B \cap (-A)$。
• 使用单调算子理论中的Minty定理和Fitzpatrick函数技术，提供严谨的收敛性分析。

提出的方法

• 采用带有非精确迭代的Douglas-Rachford分裂框架，其中在预解步骤中的误差由可 summable 序列 $\{\alpha_k\}$ 和 $\{\beta_k\}$ 所有界。
• 通过Minty存在性定理，定义辅助的精确迭代序列 $(\hat{y}_k, \hat{a}_k)$ 和 $(\hat{x}_k, \hat{b}_k)$，使其满足精确的预解方程。
• 在 $H \times H$ 上引入加权希尔伯特空间范数 $\|\cdot\|_\lambda$，以分析非精确迭代与精确迭代之间的距离。
• 利用算子 $A$ 和 $B$ 的单调性，通过三角不等式和内积估计推导误差界。
• 使用Fitzpatrick函数和弱*收敛性论证，分析弱极限点并证明收敛性。
• 采用涉及次梯度和与弱收敛性的对偶论证，证明极限点属于解集 $S(A,B)$。

实验结果

研究问题

• RQ1 在具有非精确迭代和可 summable 误差的条件下，Douglas-Rachford方法是否弱收敛于 $0 \in A(x) + B(x)$ 的解？
• RQ2 当解集非空但不一定是单点集时，能否建立迭代序列的弱收敛性？
• RQ3 在误差容限下，非精确迭代 $(x_k, b_k)$ 与精确迭代 $(\hat{x}_k, \hat{b}_k)$ 之间存在何种关系？
• RQ4 序列 $\{(x_k, b_k)\}$ 的所有弱极限点是否都属于扩展解集 $S(A,B) = B \cap (-A)$？
• RQ5 序列 $\{(x_k, b_k)\}$ 的弱极限是否唯一，且是否满足包含关系 $0 \in A(\bar{x}) + B(\bar{x})$？

主要发现

• 序列 $\{(x_k, b_k)\}$ 弱收敛于某点 $(\bar{x}, \bar{b})$，使得 $\bar{b} \in B(\bar{x})$ 且 $-\bar{b} \in A(\bar{x})$，这意味着 $0 \in A(\bar{x}) + B(\bar{x})$。
• 序列 $\{(y_k, a_k)\}$ 弱收敛于 $(\bar{x}, -\bar{b})$，验证了算法辅助迭代的一致性。
• 在 $\|\cdot\|_\lambda$ 范数下，非精确迭代 $(x_k, b_k)$ 与精确迭代 $(\hat{x}_k, \hat{b}_k)$ 之间的距离被 $\alpha_k + \beta_k$ 所有界。
• 序列 $\{(x_k, b_k)\}$ 的所有弱极限点均属于解集 $S(A,B) = \{ (z,w) \mid (z,w) \in B, (z,-w) \in A \}$。
• 由于序列有界且在自反希尔伯特空间 $H \times H$ 中弱极限点唯一，因此弱极限是唯一的。
• 通过Fitzpatrick函数和弱*收敛技术建立收敛性，确保极限满足包含条件。