[論文レビュー] An Alternating Direction Method for Total Variation Denoising

Zhiwei Qin, Donald Goldfarb+1 more|arXiv (Cornell University)|Aug 7, 2011

Sparse and Compressive Sensing Techniques参考文献 39被引用数 5

ひとこと要約

本稿では、画像と勾配変数を分離するためのデュアル変数分割戦略を用いて、全変動（TV）ノイズ除去のための新しい交替方向増大ラグランジュ（ADAL）法を提案する。この手法により、正確で効率的な部分問題の解法が可能となり、非等方的TVに対してはグローバル収束を達成し、等方的TVに対してはグローバル収束を保証する変種を得る。標準テスト画像において、反復回数とCPU時間の両面でSplit Bregmanを上回る計算性能を示した。

ABSTRACT

We consider the image denoising problem using total variation (TV) regularization. This problem can be computationally challenging to solve due to the non-differentiability and non-linearity of the regularization term. We propose an alternating direction augmented Lagrangian (ADAL) method, based on a new variable splitting approach that results in subproblems that can be solved efficiently and exactly. The global convergence of the new algorithm is established for the anisotropic TV model. For the isotropic TV model, by doing further variable splitting, we are able to derive an ADAL method that is globally convergent. We compare our methods with the split Bregman method \cite{goldstein2009split},which is closely related to it, and demonstrate their competitiveness in computational performance on a set of standard test images.

研究の動機と目的

• TV正則化項の微分不能性および非線形性に起因するTVノイズ除去問題の計算課題に対処すること。
• 非等方的および等方的TVモデルの両方に対して、グローバル収束保証を有する交替方向増大ラグランジュ（ADAL）アルゴリズムの開発。
• Split Bregman や SALSA などの既存手法と比較して、計算効率および収束速度の向上。
• 各ADAL反復における部分問題の正確かつ効率的な解法を可能にする、新しい変数分割戦略の導入。
• 標準テスト画像を用いた実験的検証を通じて、最先端のアルゴリズムと比較した本手法の性能評価。

提案手法

• 画像 $ u $ と離散勾配 $ D_i u $ のそれぞれに補助変数を導入することで、デュアル変数分割アプローチを導入し、元の問題を制約付き最適化問題に変換する。
• 分割問題に交替方向増大ラグランジュ（ADAL）法を適用し、プライマルおよびデュアル変数の交互最小化を可能にするとともに、部分問題の正確な解法を実現する。
• 非等方的TVモデルでは、単純な $ \ell_1 $-スリッキングと三重対角線形系の解法を含む部分問題を解くことで、グローバル収束を達成する。
• 等方的TVモデルでは、グローバル収束を保証するために第3の補助変数を導入し、シャンボールのアルゴリズムを用いたモレウの近似写像を適用可能にする。
• ADAL-\mu 変種では、グローバル収束の保証を損なわずに収束を加速するための適応的 $ \mu $-更新スキームを採用する。
• 非等方的ケースではガウス＝セイデルスweepを用いて線形系を解く一方、等方的バージョンでは収束を維持するための追加の制約と変数更新を含む。

実験結果

リサーチクエスチョン

• RQ1 ADAL法における新しい変数分割戦略は、TVノイズ除去における収束速度および計算効率を向上させ得るか？
• RQ2 提案手法のADAL法は、従来の手法が保証に欠ける分野においても、非等方的および等方的TVモデルの両方でグローバル収束を達成するか？
• RQ3 標準テスト画像上でのSplit BregmanおよびSALSAと比較して、本手法の収束速度および計算コストはどのように異なるか？
• RQ4 等方的TVの場合に、追加の変数分割が収束保証および1反復あたりの計算コストに与える影響は何か？
• RQ5 適応的 $ \mu $-更新は、グローバル収束を損なわず、収束速度を向上させ得るか？

主な発見

• 非等方的TVノイズ除去に対する提案手法ADALは、グローバル収束を達成し、全テスト画像においてSplit Bregmanよりも顕著に速い収束を示し、反復回数が少ない。
• 等方的TVモデルでは、ADAL-\mu 変種が1反復あたり約48mn flopsの計算コストでグローバル収束を達成しており、SplitBregmanの34mn flopsよりわずかに高い。
• ADAL-\mu および ADAL-conv-\mu は、等方的モデルにおいてSplitBregmanと比較して反復回数を約半分に抑えることができ、計算コストがやや高いにもかかわらず、CPU時間は最も短くなった。
• 平均的に、ADAL-\mu は非等方的および等方的両モデルにおいて、全テスト手法の中で最も速い収束速度を達成し、反復回数が最少であった。
• 本手法の計算効率は、$ \ell_1 $-スリッキングおよび三重対角線形系の正確な解法によるものであり、反復回数の削減と全体的な実行時間の短縮に寄与している。
• 実験的結果から、ADAL-\mu 変種は特に計算コストの高い等方的モデルにおいて、反復回数およびCPU時間の両面でSplitBregmanを上回ることが示された。