[論文レビュー] A semi-proximal-based strictly contractive Peaceman-Rachford splitting method

Yan Gu, Bo Jiang+1 more|arXiv (Cornell University)|Jun 7, 2015

Matrix Theory and Algorithms参考文献 22被引用数 26

ひとこと要約

本稿では、2つの異なる緩和係数を用いた、半プロキシマルに基づく厳密に収縮性のペイジマン＝ラッハフォード分割法を提案する。これにより、柔軟性と収束性が向上する。半プロキシマル項を導入し、緩和係数を特徴づけることで、1つは未定義（1未塔）、もう1つは1を超える可能性がある。これにより、従来の手法よりも広い条件下で収束を保証する。

ABSTRACT

The Peaceman-Rachfor d splitting method is very efficient for minimizing sum of two functions each depends on its variable, and the constraint is a linear equality. However, its convergence was not guaranteed without extra requirements. Very recently, He et al. (SIAM J. Optim. 24: 1011 - 1040, 2014) proved the convergence of a strictly contractive Peaceman-Rachfor splitting method by employing a suitable underdetermined relaxation factor. In this paper, we further extend the so-called strictly contractive Peaceman-Rachfor d splitting method by using two different relaxation factors, and to make the method more exible, we introduce semi-proximal terms to the subproblems. We characterize the relation of these two factors, and show that one factor is always underdetermined while the other one is allowed to be larger than 1. Such a exible conditions makes it possible to > >

研究の動機と目的

• 線形等式制約を伴う凸最適化における、古典的ペイジマン＝ラッハフォード分割法の収束保証の欠如に対処すること。
• 2つの異なる緩和係数を組み込むことで、厳密に収縮性のあるペイジマン＝ラッハフォード法を拡張し、柔軟性を向上させること。
• 部分問題に半プロキシマル項を導入し、安定化と収束性の向上を図ること。
• 2つの緩和係数の関係を特定すること。特に、1つが1を超える場合でも収束を保証する条件を明らかにすること。

提案手法

• 数値的安定性と収束性の向上を図るために、各部分問題に半プロキシマル項を用いる。
• 2つの異なる緩和係数を用いる。1つは厳密に未定義（1未塔）であり、もう1つは1を超える可能性がある。これにより、パrameter選択の柔軟性が向上する。
• プロキシマルに類似した部分問題を交互に更新する分割法として構造化される。
• 収束解析は、注意深く構築されたリャプノフ関数と非単調ラインサーチ戦略に依存する。
• 線形等式制約の構造を活用することで、弱い条件下でもグローバル収束を保証する。
• 反復行列が厳密に収縮的となるように緩和係数を選び、解への収束を保証する。

実験結果

リサーチクエスチョン

• RQ1 2つの異なる緩和係数を用いて、ペイジマン＝ラッハフォード分割法を厳密に収縮可能にすることができるか？
• RQ2 1つが1を超える場合に、2つの緩和係数がどのように作用して収束を保証するか？
• RQ3 半プロキシマル項は、アルゴリズムの安定化と収束条件の拡張にどのような役割を果たすか？
• RQ4 1つの緩和係数が1より大きくなっても、収束性を維持できるか？
• RQ5 収束を保証するための2つの緩和係数の理論的関係は何か？

主な発見

• 提案手法は、線形等式制約を伴う凸最適化問題において、1つの緩和係数が1を超える場合でさえもグローバル収束を達成する。
• 半プロキシマル項の導入により、アルゴリズムの柔軟性が向上し、数値的挙動が改善される。
• 1つの緩和係数は未定義（1未塔）でなければならないが、もう1つは1を超えることができ、有効パrameterの範囲が拡大される。
• 導出された条件下で、手法は厳密に収縮的であり、追加の仮定なしに収束を保証する。
• 強化された緩和戦略のおかげで、標準的なペイジマン＝ラッハフォード法と比較して、収束速度が維持または向上する。