[論文レビュー] Recovery Analysis for Plug-and-Play Priors using the Restricted Eigenvalue Condition

Jiaming Liu, M. Salman Asif+2 more|arXiv (Cornell University)|Jun 7, 2021

Sparse and Compressive Sensing Techniques被引用数 12

ひとこと要約

この論文は、ノイズ除去器の範囲上での制限固有値条件（REC）を活用することで、最初の理論的回復保証をプラグアンドプレイプライア（PnP）および正則化によるノイズ除去（RED）の圧縮センシングに対して確立した。固定点に近い解が安定した回復を達成することを示し、実際の応用においてアーティファクト除去（AR）ノイズ除去器が標準的なAWGNノイズ除去器を著しく上回ることを示した。

ABSTRACT

The plug-and-play priors (PnP) and regularization by denoising (RED) methods have become widely used for solving inverse problems by leveraging pre-trained deep denoisers as image priors. While the empirical imaging performance and the theoretical convergence properties of these algorithms have been widely investigated, their recovery properties have not previously been theoretically analyzed. We address this gap by showing how to establish theoretical recovery guarantees for PnP/RED by assuming that the solution of these methods lies near the fixed-points of a deep neural network. We also present numerical results comparing the recovery performance of PnP/RED in compressive sensing against that of recent compressive sensing algorithms based on generative models. Our numerical results suggest that PnP with a pre-trained artifact removal network provides significantly better results compared to the existing state-of-the-art methods.

研究の動機と目的

• PnP/RED手法には強力な経験的性能があるものの、形式的な回復解析が欠落しているため、回復保証における理論的ギャップを埋めること。
• PnPおよびREDの解が圧縮センシングにおいて真の信号に近い条件を確立すること。
• PnP/REDと生成モデルを用いた圧縮センシング（CSGM）との概念的関係を調査すること。
• PnP/REDにおける事前学習済みのアーティファクト除去（AR）ノイズ除去器と標準的なAWGNノイズ除去器の回復性能を比較すること。
• PnP/REDにおける正則化が、ノイズ除去器の固定点に近い解を優遇することにより実現されることを示し、スパarsity促進プライアと類似すること。

提案手法

• ノイズ除去器の範囲に適用された制限固有値条件（REC）の変種を仮定し、スパース信号の安定な回復を保証する理論的分析を実施した。
• 測定行列がノイズ除去器の範囲上でRECを満たす場合、PnP/REDの解と真の信号との距離が明示的にバインド可能であることを示した。
• PnPおよびREDの解が一致する十分条件を導出し、特定の仮定のもとで正確な回復が可能であることを示した。
• 本フレームワークは、解がノイズ除去器の固定点に近いことに基づいており、PnP/REDが固定点に近い画像を優遇することで正則化を実現することを形式化した。
• 数値実験では、ランダムプロジェクションおよび部分的フーリエ測定を用いて、SOTAのCSGM手法とPnP/REDを比較した。
• 事前学習済みのアーティファクト除去（AR）ノイズ除去器を用い、標準的なAWGNノイズ除去器と比較した。収束は残差ノルム $\|\mathsf{R}(\mathbf{x})\|_2^2 = \|\mathbf{x} - \mathsf{D}(\mathbf{x})\|_2^2$ を用いてモニタリングした。

実験結果

リサーチクエスチョン

• RQ1 PnP/REDが圧縮センシングにおいて理論的回復保証を達成できる条件は何か？
• RQ2 PnP/REDの性能は、圧縮センシングにおける最先端の生成モデルベース手法と比べてどうか？
• RQ3 ノイズ除去器の固定点は、PnP/REDの正則化メカニズムにおいて果たす役割は何か？
• RQ4 なぜアーティファクト除去（AR）ノイズ除去器は、PnP/RED回復において標準的なAWGNノイズ除去器を上回るのか？
• RQ5 CSGMの理論的回復フレームワークを、ノイズ除去器の範囲上でのRECを仮定することでPnP/REDに適応可能か？

主な発見

• 測定行列がノイズ除去器の範囲上で制限固有値条件（REC）を満たす限り、PnP/REDの解は真の信号に近いことが保証される。
• 理論的分析により、PnPおよびREDの解が十分条件を満たす場合に一致することが示され、その条件下では正確な回復が可能である。
• 数値結果から、事前学習済みのアーティファクト除去（AR）ノイズ除去器を用いたPnPは、最先端のCSGM手法を著しく上回る再構成性能を達成した。
• Set11におけるPSNR結果では、残差ノルムが1.0の条件下でPnP（AR）が72.72 dBを達成したのに対し、PnP（ノイズ除去器）は同じ条件下で65.76 dBにとどまり、優位性が確認された。
• ノイズ除去器の固定点に近づくに従い、視覚的品質が劣化し、細部の損失が生じることから、最適な性能は固定点に「近いが、固定点そのものではない」位置に存在することが示された。
• 視覚的比較により、PnP（AR）はStyleGAN2を用いたILOと同等のシャープな画像を生成し、ARオペレータが標準的なノイズ除去器よりも優れていることを確認した。