[論文レビュー] Adversarial Regularizers in Inverse Problems

Sebastian Lunz, Ozan Öktem+1 more|arXiv (Cornell University)|May 29, 2018

Medical Imaging Techniques and Applications参考文献 24被引用数 79

ひとこと要約

本論文は、正規化関数として学習されたニューラルネットワークを用い、真の画像と未正規化再構成を区別するクリティックとして訓練することで、逆問題の教師なしトレーニングを可能にし、ノイズ低減とCT再構成の性能を改善する。

ABSTRACT

Inverse Problems in medical imaging and computer vision are traditionally solved using purely model-based methods. Among those variational regularization models are one of the most popular approaches. We propose a new framework for applying data-driven approaches to inverse problems, using a neural network as a regularization functional. The network learns to discriminate between the distribution of ground truth images and the distribution of unregularized reconstructions. Once trained, the network is applied to the inverse problem by solving the corresponding variational problem. Unlike other data-based approaches for inverse problems, the algorithm can be applied even if only unsupervised training data is available. Experiments demonstrate the potential of the framework for denoising on the BSDS dataset and for computed tomography reconstruction on the LIDC dataset.

研究の動機と目的

• Inverse problemsの変分フレームワーク内でニューラルネットワーク正規化子を導入する。
• Ground-truthと擬似逆問題再構成間の分布判別を用いたスケーラブルな訓練方法を開発する。
• 学習された正規化子の理論特性を確立し、分布挙動を分析する。
• 教師データなしでノイズ低減とCT再構成における有効性を実証する。

提案手法

• 変分問題における手作り正規化をΨ_Θというニューラルネットワーク正規化子に置換する。
• Ψ_Θをクリティックとして訓練し、ground-truthサンプルと擬似逆再構成を区別する Wasserstein-GAN スタイルの損失と勾配ペナルティを用いる。
• 逆問題を、||Ax−y||^2 + λΨ_Θ(x)を勾配降下で最小化することで解く。
• 弱いデータマニフォールド仮定の下で、Wasserstein距離の減衰とマニフォールド整列正規化に関する理論結果を提供する。
• ノイズレベルから正規化パラメータλをλ = 2 E_{e~p_n} ||A^* e||_2で推定する。
• 本手法の安定性と収束性の特性を議論する。

実験結果

リサーチクエスチョン

• RQ1 教師なしトレーニングデータの下で、正規化関数として学習されたニューラルネットワークは逆問題の再構成を改善できるか？
• RQ2 学習された正規化子の理論的性質（例：Wasserstein距離減衰、マニフォールド整列正規化）は何か？
• RQ3 ノイズ除去やCT再構成において、伝統的な変分手法や監督付き学習と比較して本手法はどうか？
• RQ4 λを再訓練なしでノイズ特性から効率的に推定する方法は？

主な発見

Dataset	Method	PSNR (dB)	SSIM
BSDS500 denoising	Total Variation	26.3	0.836
BSDS500 denoising	Unsupervised Adversarial Regularizer	28.2	0.892
BSDS500 denoising	Supervised Denoising NN	28.8	0.908
LIDC CT high noise	Filtered Backprojection	14.9	0.227
LIDC CT high noise	Total Variation	27.7	0.890
LIDC CT high noise	Post-Processing (supervised)	31.2	0.936
LIDC CT high noise	RED	29.9	0.904
LIDC CT high noise	Unsupervised Adversarial Reg.	30.5	0.927
LIDC CT low noise	Filtered Backprojection	23.3	0.604
LIDC CT low noise	Total Variation	30.0	0.924
LIDC CT low noise	Post-Processing (supervised)	33.6	0.955
LIDC CT low noise	RED	32.8	0.947
LIDC CT low noise	Unsupervised Adversarial Reg.	32.5	0.946

• 敵対的正規化子は、教師なしトレーニング下のBSDS500のノイズ低減において総変動より優れている。
• CT再構成（LIDC/IDRI）では、教師なし敵対的正規化子が多くのベースラインよりPSNR/SSIMが優れ、監督付き後処理と競合する。
• 本手法は教師付きデータのみを用いず、教師付き手法と同等以上の視覚品質を達成する。
• 学習された正規化子の下での勾配流がグラウンドトゥルース分布へのWasserstein距離を減少させ、再構成画像をデータマニフォールドに整列させることを示す理論的結果。
• 本フレームワークは、緩い仮定の下でデータ項最小化の安定性保証を提供する。