[论文解读] A semi-proximal-based strictly contractive Peaceman-Rachford splitting method

Yan Gu, Bo Jiang+1 more|arXiv (Cornell University)|Jun 7, 2015

Matrix Theory and Algorithms参考文献 22被引用 26

一句话总结

该论文提出了一种基于半近端项的严格收缩Peaceman-Rachford分裂方法，采用两个不同的松弛因子，增强了灵活性与收敛性。通过引入半近端项并刻画松弛因子——其中一个为欠定（小于1），另一个可超过1——该方法在比以往方法更广泛的条件下确保收敛。

ABSTRACT

The Peaceman-Rachfor d splitting method is very efficient for minimizing sum of two functions each depends on its variable, and the constraint is a linear equality. However, its convergence was not guaranteed without extra requirements. Very recently, He et al. (SIAM J. Optim. 24: 1011 - 1040, 2014) proved the convergence of a strictly contractive Peaceman-Rachfor splitting method by employing a suitable underdetermined relaxation factor. In this paper, we further extend the so-called strictly contractive Peaceman-Rachfor d splitting method by using two different relaxation factors, and to make the method more exible, we introduce semi-proximal terms to the subproblems. We characterize the relation of these two factors, and show that one factor is always underdetermined while the other one is allowed to be larger than 1. Such a exible conditions makes it possible to > >

研究动机与目标

• 解决经典Peaceman-Rachford分裂方法在带有线性等式约束的凸优化问题中缺乏收敛性保证的问题。
• 通过引入两个不同的松弛因子，扩展严格收缩的Peaceman-Rachford方法，以提升灵活性。
• 将半近端项引入子问题，以稳定并改善收敛行为。
• 刻画两个松弛因子之间的关系，特别是允许其中一个超过1的同时确保收敛。

提出的方法

• 该方法在每个子问题中引入半近端项，以改善数值稳定性和收敛特性。
• 采用两个不同的松弛因子——一个严格欠定（小于1），另一个可能大于1——从而在参数选择上提供更大的灵活性。
• 该算法采用分裂方法结构，通过带有松弛的近似凸子问题交替更新变量。
• 收敛性分析依赖于精心构造的李雅普诺夫函数以及非单调线搜索策略的使用。
• 通过利用线性等式约束的结构，该方法在较弱条件下确保全局收敛。
• 松弛因子的选择使得迭代矩阵严格收缩，从而保证收敛至解。

实验结果

研究问题

• RQ1 能否通过引入两个不同的松弛因子，使Peaceman-Rachford分裂方法实现严格收缩？
• RQ2 当一个松弛因子超过1时，两个松弛因子之间如何相互作用以确保收敛？
• RQ3 半近端项在稳定算法和拓宽收敛条件方面起到什么作用？
• RQ4 当一个松弛因子大于1时，该方法能否保持收敛性？
• RQ5 两个松弛因子之间存在何种理论关系可保证收敛？

主要发现

• 所提方法在带有线性等式约束的凸优化问题中实现了全局收敛，即使一个松弛因子超过1亦成立。
• 引入半近端项显著提升了算法的灵活性并改善了数值行为。
• 一个松弛因子必须欠定（小于1），而另一个可大于1，从而扩展了有效参数范围。
• 在推导的条件下，该方法严格收缩，确保收敛，且无需额外假设。
• 由于增强了松弛策略，与标准Peaceman-Rachford方法相比，收敛速率得以保持或进一步提升。