[論文レビュー] Optimal Leveraging of Smoothness and Strong Convexity for Peaceman--Rachford Splitting

Luis M. Briceño-Arias, Fernando Roldán|arXiv (Cornell University)|Jan 17, 2026

Sparse and Compressive Sensing Techniques被引用数 0

ひとこと要約

著者らは、二関数問題における強い凸性と滑らかさを、二次項を介してこれらの性質を再分配し、PRSを再定式化して、理論的に最適な線形収束速度を達成する体系的な方法を提案する。

ABSTRACT

In this paper, we introduce a simple methodology to leverage strong convexity and smoothness in order to obtain an optimal linear convergence rate for the Peaceman--Rachford splitting (PRS) scheme applied to optimization problems involving two smooth strongly convex functions. The approach consists of adding and subtracting suitable quadratic terms from one function to the other so as to redistribute strong convexity in the primal formulation and smoothness in the dual formulation. This yields an equivalent modified optimization problem in which each term has adjustable levels of strong convexity and smoothness. In this setting, the Peaceman--Rachford splitting method converges linearly to the solution of the modified problem with a convergence rate that can be optimized with respect to the introduced parameters. Upon returning to the original formulation, this procedure gives rise to a modified variant of PRS. The optimal linear rate established in this work is strictly better than the best rates previously available in the general setting. The practical performance of the method is illustrated through an academic example and applications in image processing.

研究の動機と目的

• PRS（Peaceman–Rachford）を用いた強い凸性と滑らかさを備える二関数凸最適化問題の動機づけと解法。
• 二次的摂動によって強い凸性と滑らかさを再分配できる機構を開発し、調整可能なパラメータを有する同値問題を得る。
• 調整後のパラメータの下で修正PRSスキームの最適な線形収束率を導出・証明する。
• 最適速度を達成する実用的なアルゴリズムとパラメータ選択を提供し、学術的および画像処理の例でデモを示す。

提案手法

• 関数fとgの間で凸性/滑らかさを再分配するように二次摂動を導入する：f_deltaとg_{-delta}を定義。
• 各項が調整可能な強凸性と滑らかさパラメータを持つ等価問題を定式化する。
• 修正問題にPRSを適用し、反射近傍演算子とリプシッツ定数を用いて収束を分析する。
• 明示的な線形収束率r(tau, eta, delta)を導出し、delta, eta, tauを最適化して最良の率r*を得る（式(30)）。
• 二次元の例で最適性と厳密性を証明し、実用的なパラメータ選択（delta*, eta*, tau*）を議論する。
• 提案アルゴリズムの線形収束を確立する再帰関数(26)と不動点表現を提供する。

実験結果

リサーチクエスチョン

• RQ1 f(x)+g(x)を最小化する際、fとgが滑らかで強く凸である場合、PRSを加速させるために強い凸性と滑らかさを最適に活用するにはどうすればよいか。
• RQ2 最良の線形収束率をもたらす二次摂動を用いたパラメータ化 reformulations は何か。
• RQ3 修正PRSの明示的な最適線形収束率は何で、それは厳密か。
• RQ4 提案されたパラメータ選択は、画像処理などの実用的アプリケーションでどのように機能するか。

主な発見

• 論文は、分散された強凸性と滑らかさの下で新しいPRS変種に対して鋭い線形収束率を証明している。
• 最適な速度は r* = (√((1+βρ)(1+αμ)) − √((α+β)(ρ+μ))) / (√((1+βρ)(1+αμ)) + √((α+β)(ρ+μ))) で与えられる。
• この速度r*は、これらの仮定の下でPRS/DRSの一般的な設定で以前に知られていた速度よりも厳密に良い。
• 最適パラメータは明示的に特徴づけられ（delta*, eta*, tau*）てr*を達成し、単純な候補delta*も提供される。
• 2Dの構成例を通じて速度が厳密であることが示され、学術および画像処理の数値実験で実用的な利得が示される。