[論文レビュー] Solving Linear Inverse Problems Using the Prior Implicit in a Denoiser

Zahra Kadkhodaie, Eero P. Simoncelli|arXiv (Cornell University)|Jul 27, 2020

Image and Signal Denoising Methods参考文献 55被引用数 15

ひとこと要約

本論文は、事前に訓練されたブラインドノイズ除去器に埋め込まれた暗黙的事前分布を活用することで、再訓練を必要としない一般化された訓練フリー手法を提案する。この手法は、ぼかしの復元、スーパーレゾリューション、圧縮センシングなどの線形逆問題を解くために、データ分布のスコアを推定するためにノイズ除去器の出力を用いる確率的粗いから細かい勾配上昇アルゴリズムを採用する。この方法により、再訓練なしに複数のタスクで最先端の非教師あり性能を達成する。

ABSTRACT

Prior probability models are a fundamental component of many image processing problems, but density estimation is notoriously difficult for high-dimensional signals such as photographic images. Deep neural networks have provided state-of-the-art solutions for problems such as denoising, which implicitly rely on a prior probability model of natural images. Here, we develop a robust and general methodology for making use of this implicit prior. We rely on a statistical result due to Miyasawa (1961), who showed that the least-squares solution for removing additive Gaussian noise can be written directly in terms of the gradient of the log of the noisy signal density. We use this fact to develop a stochastic coarse-to-fine gradient ascent procedure for drawing high-probability samples from the implicit prior embedded within a CNN trained to perform blind (i.e., with unknown noise level) least-squares denoising. A generalization of this algorithm to constrained sampling provides a method for using the implicit prior to solve any linear inverse problem, with no additional training. We demonstrate this general form of transfer learning in multiple applications, using the same algorithm to produce state-of-the-art levels of unsupervised performance for deblurring, super-resolution, inpainting, and compressive sensing.

研究の動機と目的

• 再訓練を必要とせず、事前に訓練されたノイズ除去器のみを用いて、一般化された線形逆問題のためのフレームワークを構築すること。
• 教師なしデータで学習された深層畳み込みニューラルネットワーク（CNN）ノイズ除去器が学習する暗黙的事前分布を活用すること。
• ステップサイズとノイズレベルを動的に制御する確率的勾配上昇手順を用いて、ノイズ除去器の暗黙的事前分布からのロバストかつ適応的なサンプリングを可能にすること。
• 線形測定値に条件づけた制約付きサンプリングへの一般化を実現し、インpaintングや圧縮センシングなどの任意の線形逆問題を解けるようにすること。
• 単一の汎用的ノイズ除去器を用いて、複数の画像修復タスクにわたる汎用性と最先端の性能を示すこと。

提案手法

• 本手法は古典的な統計的結果に基づいている：加法的ガウスノイズの最適なノイズ除去器は、ノイズが付加された信号の対数密度の勾配を計算する。
• 確率的粗いから細かい勾配上昇アルゴリズムを用いて、ノイズ除去器を繰り返し適用することで、暗黙的事前分布からの高確率サンプルを抽出する。この際、ノイズ除去器の出力を用いてデータ分布のスコア（対数密度の勾配）を推定する。
• ステップサイズとノイズ振幅は、ノイズ除去器自身が動的に制御するため、手動によるハイパーパramータチューニングの必要がなくなる。
• 線形逆問題の文脈では、測定空間への射影を用いて制約付きサンプリングに拡張され、インpaintングや圧縮センシングなどの問題の解法が可能になる。
• 異なるノイズレベルに応じた複数のノイズ除去器を用いる必要がなく、未知のノイズレベルの画像に対してMSEを最小化するように学習された単一のブラインドノイズ除去器に依存する。
• ノイズ除去器の出力を直接用いる反復的勾配上昇戦略を採用することで、MCMCサンプリングを回避し、計算的に効率的な手法を実現する。

実験結果

リサーチクエスチョン

• RQ1 事前に訓練されたブラインドノイズ除去器に埋め込まれた暗黙的事前分布を、追加の訓練なしに幅広い線形逆問題に効果的に活用できるか？
• RQ2 ノイズ除去器の出力をどのように活用すれば、事前分布からの効率的サンプリングを可能にするデータ分布のスコアを推定できるか？
• RQ3 ブラインドノイズ除去のための学習に特化した単一の汎用的ノイズ除去器を、スーパーレゾリューションや圧縮センシングなどの多様な逆問題に応用できるか？
• RQ4 ノイズ除去器に基づくステップサイズとノイズレベルの適応的制御機構は、固定パrameter法と比較して収束性とロバスト性をどのように向上させるか？
• RQ5 定量的指標と視覚的品質の両面で、従来のプラグアンドプレイおよびスコアベースの手法と比較して、本手法はどの程度優れているか？

主な発見

• 本手法は、単一の事前訓練済みブラインドノイズ除去器のみを用いて、ぼかしの復元、スーパーレゾリューション、インpaintング、圧縮センシングの各タスクで最先端の非教師あり性能を達成する。
• PSNRが直接サンプリング手法よりわずかに低い場合でも、視覚的品質において元の画像を上回る結果が得られる。
• 複数回のサンプリングを平均化することで、単一サンプルの結果に比べPSNRが向上するが、その代わりにぼやけが顕著になる。
• ハイパーパramータ（初期ステップサイズ、減衰率など）の選択に強く依存せず、広い範囲の設定で安定した性能を示す。
• ランダムな低次元射影からの画像回復において、スパースな部分空間の和に基づく従来の圧縮センシング事前分布よりも顕著に優れた性能を発揮する。
• 確率的勾配上昇を用いることで、ラングジュアンダイナミクスや逐次的ノイズ除去チェーンを避ける非マルコフ的で効率的なサンプリングを実現する。