[論文レビュー] Convergence analysis for a primal-dual monotone + skew splitting algorithm with applications to total variation minimization

Radu Ioan Boţ, Christopher Hendrich|arXiv (Cornell University)|Nov 7, 2012

Optimization and Variational Analysis参考文献 9被引用数 13

ひとこと要約

本稿では、単調 + 傾き型作用素を含む単調包含問題に対する原双対分割アルゴリズムの収束解析を提示し、全 variation（TV）に基づく画像修復に応用する。共役双対性を用いて収束速度を確立し、強い単調性のもとで加速版を提案。画像ノイズ除去および穴埋めの実験で有効性を示した。

ABSTRACT

In this paper we investigate the convergence behavior of a primal-dual splitting method for solving monotone inclusions involving mixtures of composite, Lipschitzian and parallel sum type operators proposed by Combettes and Pesquet in [7]. Firstly, in the particular case of convex minimization problems, we derive convergence rates for the sequence of objective function values by making use of conjugate duality techniques. Secondly, we propose for the general monotone inclusion problem two new schemes which accelerate the sequences of primal and/or dual iterates, provided strong monotonicity assumptions for some of the involved operators are fulfilled. Finally, we apply the theoretical achievements in the context of different types of image restoration problems solved via total variation regularization.

研究の動機と目的

• 原双対単調 + 傾き型分割アルゴリズムの単調包含問題に対する収束挙動を分析すること。
• 共役双対性を用いて凸最小化における目的関数値の収束速度を導出すること。
• 特定の作用素の強い単調性を仮定したもとで、原および双対反復の加速スキームを提案すること。
• 理論的結果を全 variation（TV）に基づく画像修復問題に応用すること。
• TV正則化を用いた画像ノイズ除去および穴埋めタスクにおいて、手法を検証すること。

提案手法

• アルゴリズムは、コベットとペスクェの原双対分割法を、合成的・リプシッツ的・平行和型作用素を含むように拡張した。
• 問題をリプシッツ的かつ最大単調作用素の和のゼロ点を求める問題に、積空間アプローチで簡略化した。
• リプシッツ的作用素に対して明示的なステップと、多価作用素に対してリゾルベントを用いた、誤差耐性のある前向き-後ろ向き-前向きスキームを採用した。
• 凸最小化における目的関数値の収束速度を導出するために、共役双対性技術を適用した。
• 特定の作用素の強い単調性を活用して、原反復および／または双対反復の収束を高速化する加速版を導入した。
• 画像処理応用における全 variation（TV）およびL1型正則化のための、明示的な近位点公式を導出した。

実験結果

リサーチクエスチョン

• RQ1 凸最小化における原双対単調 + 傾き型分割の目的関数値に対して、収束速度を確立できるか？
• RQ2 強い単調性の仮定のもとで、原双対アルゴリズムの収束をどのように加速できるか？
• RQ3 画像修復における全 variation（TV）最小化に適用した際のアルゴリズムの収束挙動はいかなるものか？
• RQ4 TVおよびL1正則化のための近位点公式は、画像処理応用における効率的実装をどのように可能にするか？
• RQ5 TVベースのモデルを用いて、欠損データを伴う画像ノイズ除去および穴埋めを効果的に処理できるか？

主な発見

• 共役双対性を用いて目的関数値の収束速度を導出し、凸最小化における収束速度の理論的保証を提供した。
• 強い単調性が問題作用素に存在する場合に、原および／または双対反復の収束を高速化する加速版アルゴリズムを提案した。
• Cameramanおよびフルーツのテスト画像を用いた実験で、全 variation（TV）に基づくノイズ除去および穴埋めタスクにおいて、画像の再構成に成功した。
• 画像ノイズ除去の実験では、正則化パラメータ λ₁ = 3e-3 および λ₂ = 2e-5 を用いて、効果的な修復が達成された。
• 80%のピクセルが欠損した画像穴埋めでは、200反復後に λ = 0.05 を用いてフルーツ画像を再構成した。
• 全 variation（TV）およびL1正則化のための明示的な近位点公式を導出し、アルゴリズムの反復における効率的実装を可能にした。