[论文解读] Convergence of the alternating split Bregman algorithm in infinite-dimensional Hilbert spaces

Amir Moradifam, Adrian Nachman|arXiv (Cornell University)|Dec 8, 2011

Numerical methods in inverse problems参考文献 22被引用 5

一句话总结

本文在无限维希尔伯特空间中建立了交替分裂Bregman算法在求解涉及有界线性算子及适当、凸、下确界连续函数的凸最小化问题时的弱收敛性。通过利用Svaiter关于Douglas-Rachford分裂的定理以及Setzer关于分裂Bregman与Douglas-Rachford方法等价性的结果，作者证明了当$L^*L$满足满射性时，算法在无限维设定下依然定义良好且收敛，且可推广至允许可 summable 误差的不精确（扰动）迭代。

ABSTRACT

We prove results on weak convergence for the alternating split Bregman algorithm in infinite dimensional Hilbert spaces. We also show convergence of an approximate split Bregman algorithm, where errors are allowed at each step of the computation. To be able to treat the infinite dimensional case, our proofs focus mostly on the dual problem. We rely on Svaiter's theorem on weak convergence of the Douglas-Rachford splitting algorithm and on the relation between the alternating split Bregman and Douglas-Rachford splitting algorithms discovered by Setzer. Our motivation for this study is to provide a convergent algorithm for weighted least gradient problems arising in the hybrid method of imaging electric conductivity from interior knowledge (obtainable by MRI) of the magnitude of one current.

研究动机与目标

• 在无限维希尔伯特空间中建立交替分裂Bregman算法的弱收敛性。
• 将有限维设定下的收敛结果扩展至无限维设定，特别是针对混合成像中出现的问题。
• 分析在最小化步骤中采用近似解且误差可求和时算法的稳定性。
• 为在大规模、无限维反问题（如电导率成像）中使用分裂Bregman方法提供严格的理论基础。

提出的方法

• 证明依赖于交替分裂Bregman算法与应用于对偶问题的Douglas-Rachford分裂算法之间的等价性。
• 将Svaiter关于Douglas-Rachford方法弱收敛性的定理应用于对偶问题，以推断分裂Bregman迭代的收敛性。
• 分析集中于对偶问题，以处理无限维希尔伯特空间，避免在原问题空间中直接进行最小化。
• 推导出良好定义性的充分条件：若$L^*L$是满射，则每个分裂Bregman步骤中的子问题均有唯一最小化解。
• 近似算法允许在最小化步骤中存在误差$\alpha_k$和$\beta_k$，若$\sum (\alpha_k + \beta_k) < \infty$，则收敛性仍被保持。
• 建立了$\{d^k - Lu^{k+1}\}$在范数下收敛于零，确保极限状态下约束的满足。

实验结果

研究问题

• RQ1 交替分裂Bregman算法在无限维希尔伯特空间中是否弱收敛？
• RQ2 在何种条件下交替分裂Bregman算法在无限维设定下是良好定义的？
• RQ3 当最小化解以可求和误差近似计算时，收敛性是否仍可保持？
• RQ4 在无限维情况下，是否可通过分裂Bregman迭代恢复对偶问题的解？
• RQ5 $L^*L$的满射性在确保子问题解的存在性与唯一性方面起什么作用？

主要发现

• 当$L^*L$是满射且原问题与对偶问题均有解时，交替分裂Bregman算法弱收敛于原问题的解。
• 序列$\{b^k\}$与$\{d^k\}$分别弱收敛于$\hat{b}$与$\hat{d}$，且$\lambda \hat{b}$是对偶问题的解。
• 约束违反量$\|d^k - Lu^{k+1}\|_2$强收敛于零，确保极限状态下的可行性。
• 对于不精确算法，若$\sum (\alpha_k + \beta_k) < \infty$，则$\{d^k\}$与$\{b^k\}$仍弱收敛于对偶问题的解。
• 当$L^*L$是满射时，原问题解$\hat{u}$唯一，且$\{u^k\}$至多有一个弱聚点。
• 即使最小化解以近似方式计算，只要误差可求和，收敛结果依然成立，表明算法具有鲁棒性。