[論文レビュー] Gradient Step Denoiser for convergent Plug-and-Play

Samuel Hurault, Arthur Leclaire+1 more|arXiv (Cornell University)|Oct 7, 2021

Sparse and Compressive Sensing Techniques参考文献 53被引用数 19

ひとこと要約

本稿では、PnP-HQSにおける従来のノイズ除去器を、深層ニューラルネットワークでパrameter化された関数型の勾配降下ステップに置き換える、新規なプラグアンドプレイ（PnP）フレームワーク、Gradient Step Denoiser（GS-PnP）を提案する。学習可能な関数型を介してノイズ除去器が近位写像条件を満たすように保証することで、非凸なデータ適合項に対しても、明示的なグローバル関数型の停留点に収束することが保証される。同時に、デブラー、スーパーレゾリューション、インpaintingの分野で最先端の性能を達成する。

ABSTRACT

Plug-and-Play methods constitute a class of iterative algorithms for imaging problems where regularization is performed by an off-the-shelf denoiser. Although Plug-and-Play methods can lead to tremendous visual performance for various image problems, the few existing convergence guarantees are based on unrealistic (or suboptimal) hypotheses on the denoiser, or limited to strongly convex data terms. In this work, we propose a new type of Plug-and-Play methods, based on half-quadratic splitting, for which the denoiser is realized as a gradient descent step on a functional parameterized by a deep neural network. Exploiting convergence results for proximal gradient descent algorithms in the non-convex setting, we show that the proposed Plug-and-Play algorithm is a convergent iterative scheme that targets stationary points of an explicit global functional. Besides, experiments show that it is possible to learn such a deep denoiser while not compromising the performance in comparison to other state-of-the-art deep denoisers used in Plug-and-Play schemes. We apply our proximal gradient algorithm to various ill-posed inverse problems, e.g. deblurring, super-resolution and inpainting. For all these applications, numerical results empirically confirm the convergence results. Experiments also show that this new algorithm reaches state-of-the-art performance, both quantitatively and qualitatively.

研究の動機と目的

• 一般化された深層ノイズ除去器を用いたPnP手法における収束保証の欠如に対処すること。
• 理論的収束を保証しつつ、高い画像修復性能を維持するPnPフレームワークを開発すること。
• デブラーおよびスーパーレゾリューションなどの不適切に定義された逆問題においても、非凸なデータ適合項に対して収束を可能にすること。
• ノイズ除去器が明示的に関数型に結びつけられていることにより、解釈可能性と数値的制御性を提供すること。
• 学習可能なノイズ除去器が収束保証を失わずに最先端の性能を達成できることを示すこと。

提案手法

• PnP-HQSにおける正則化項の近位作用素を、深層ニューラルネットワークでパラメータ化された関数型における勾配降下ステップに置き換える。
• ノイズ除去器は、その更新ルールが学習可能な関数型の勾配に一致するように構築され、∇g(x) = x − D(x) を満たすことを保証する。
• アルゴリズムは、データ適合項を大きなステップサイズτの近位ステップで最小化し、その後に学習された関数型における勾配降下ステップでノイズ除去を行う半2次的分割スキームとして定式化される。
• ステップサイズτの適応的調整のため、バックトラッキングラインサーチが用いられ、安定性と収束性が向上する。
• ノイズ除去器は、全体の修復目的を最小化するようにエンドツーエンドで訓練されつつ、関数型構造のおかげで収束保証が維持される。
• 本手法は、同じフレームワークを用いて、デブラー、スーパーレゾリューション、インpaintingを含むさまざまな逆問題に適用される。

実験結果

リサーチクエスチョン

• RQ1 学習可能な関数型における勾配降下ステップに基づくPnP手法は、非凸なデータ適合項に対しても収束保証を達成できるか？
• RQ2 このような手法は、収束性を保証しつつ、最先端の画像修復性能を維持できるか？
• RQ3 関数型から導出された本手法のノイズ除去器は、非凸設定における収束に必要な条件を満たすか？
• RQ4 初期値やハイパーパramータ（特にσとλ）の選択に対して、アルゴリズムはどれほど頑健か？
• RQ5 DPIR や RED などの既存のPnP手法に比べ、収束性と修復品質の両面で優れているか？

主な発見

• 提案されたGS-PnPアルゴリズムは、ノイズ除去器にやや弱い仮定を課す限り、非凸なデータ適合項に対しても、明示的なグローバル関数型の停留点に収束することが保証される。
• GS-PnPでは、残差||x_{k+1} − x_k||²が約10⁻¹³にまで低下し、強力な収束性を示すが、DPIRでは収束せず、残差は10⁻⁴程度に保たれる。
• CBSD10における10個のカーネルを用いたデブラーの実験で、σ/ν = 2の条件下でPSNRが32.45 dBを達成し、REDおよび他のベースラインを上回る。
• ノイズの強い初期化に対しても本手法は頑健である：σ_init = 60/255であっても、PSNRは安定し、視覚的に一貫性を保つ。
• インpaintingおよびスーパーレゾリューションのタスクにおいて、GS-PnPは最先端のPSNRおよびSSIMスコアを達成し、多様な逆問題への一般化能力を示している。
• アブレーションスタディにより、バックトラッキング手順が収束を安定化させ、大きな初期τ値を可能にし、頑健性を向上させることを確認した。