[論文レビュー] Compressed Sensing with Deep Image Prior and Learned Regularization

Dave Van Veen, Ajil Jalal+4 more|arXiv (Cornell University)|Jun 17, 2018

Sparse and Compressive Sensing Techniques参考文献 83被引用数 167

ひとこと要約

本論文は CS-DIP を提案する。未訓練の深層画像事前分布を用いた圧縮感成の方法で、学習済み正則化項を用いて再構成を改善し、大規模な事前学習データセットを必要としない。

ABSTRACT

We propose a novel method for compressed sensing recovery using untrained deep generative models. Our method is based on the recently proposed Deep Image Prior (DIP), wherein the convolutional weights of the network are optimized to match the observed measurements. We show that this approach can be applied to solve any differentiable linear inverse problem, outperforming previous unlearned methods. Unlike various learned approaches based on generative models, our method does not require pre-training over large datasets. We further introduce a novel learned regularization technique, which incorporates prior information on the network weights. This reduces reconstruction error, especially for noisy measurements. Finally, we prove that, using the DIP optimization approach, moderately overparameterized single-layer networks can perfectly fit any signal despite the non-convex nature of the fitting problem. This theoretical result provides justification for early stopping.

研究の動機と目的

• 微分可能な線形逆問題（例：圧縮感成）を解くための未訓練の深層生成ネットワーク（DIP）の活用を模索する。
• ネットワーク重みについての事前情報を符号化する学習済み正則化項を導入し、再構成誤差を低減する。
• DIP最適化の下で過パラメータ化された単一層ネットワークに対する理論的収束/適合保証を証明する。
• 医用画像と自然画像に対して、最新の未学習法より経験的な改善を示す。

提案手法

• 未訓練の DCGAN ジェネレーター G(z;w) の重み w を最適化して、正則化を制約条件とする ||y - A G(z;w)||^2 を最小化する。
• 目的関数に重み λ_T を用いた total variation 正則化 TV(G(z;w)) を組み込む。
• 事前パラメータ μ, Σ を用いた学習済み正則化項 LR(w) = (w - μ)^T Σ^{-1} (w - μ) を導入する。
• w にガウス事前分布を仮定した MAP 問題を解くことで、類似測定の小さな集合から層ごとに μ, Σ を学習する。
• 過学習を緩和するために早期停止を使用し、広い単一層ネットワークに対する理論的結果で正当化する。
• GaussianおよびFourier測定モデル上で CS-DIP を BM3D-AMP、TVAL3、Lasso と比較する。

実験結果

リサーチクエスチョン

• RQ1 微分可能な前方演算子を持つ圧縮感成問題を、未訓練の深部画像事前分布は解けるのか。
• RQ2 ノイズや強いアンダーサンプリング下で、学習済み重み正則化を追加することは再構成品質を向上させるか。
• RQ3 CS-DIP の性能は、学習済み事前学習生成 priors や未学習ベースラインと、データセットおよび測定モデル全体でどう比較されるか。
• RQ4 DIPベース再構成における早期停止の必要性を説明する理論的保証は何か。

主な発見

• CS-DIP は、さまざまな測定 regime の下で MNIST および胸部X線画像データセットにおいて、最先端の未学習法を上回る。
• 学習済み正則化（LR）は、ノイズや少数の測定時に特に顕著な改善をもたらす一方、素の L2 正則化は効果がない。
• 事前学習済みの DCGAN ベースの手法は非常に少数の測定時に CS-DIP を上回るが、測定が増えるにつれて CS-DIP はスケールが良い。
• 勾配降下法は十分に広い単一層ネットワークで任意の信号を適合させられるという理論的結果があり、早期停止を正当化する。