[論文レビュー] One Network to Solve Them All --- Solving Linear Inverse Problems using Deep Projection Models

Je-Yuan Chang, Chunliang Li+3 more|arXiv (Cornell University)|Mar 29, 2017

Sparse and Compressive Sensing Techniques被引用数 64

ひとこと要約

本論文は、学習された近接演算子をADMMに組み込むことで、画像のさまざまな線形逆問題を解く単一の深い投影モデルを学習する一般的なフレームワークを導入し、再学習なしにタスク横断の再構成を可能にする。

ABSTRACT

While deep learning methods have achieved state-of-the-art performance in many challenging inverse problems like image inpainting and super-resolution, they invariably involve problem-specific training of the networks. Under this approach, different problems require different networks. In scenarios where we need to solve a wide variety of problems, e.g., on a mobile camera, it is inefficient and costly to use these specially-trained networks. On the other hand, traditional methods using signal priors can be used in all linear inverse problems but often have worse performance on challenging tasks. In this work, we provide a middle ground between the two kinds of methods --- we propose a general framework to train a single deep neural network that solves arbitrary linear inverse problems. The proposed network acts as a proximal operator for an optimization algorithm and projects non-image signals onto the set of natural images defined by the decision boundary of a classifier. In our experiments, the proposed framework demonstrates superior performance over traditional methods using a wavelet sparsity prior and achieves comparable performance of specially-trained networks on tasks including compressive sensing and pixel-wise inpainting.

研究の動機と目的

• 線形逆問題に対する手設計された priors とエンドツーエンドの写像との中間的な立場を動機づける。
• 大規模な画像データセットから近接演算子を学習して、任意の線形逆問題を解くフレームワークを提案する。
• 学習された射影をADMMと統合可能で、Aおよびノイズの変化に対して頑健であることを保証する。
• 学習済み投影ネットワークを用いた非凸ADMMの収束指針を提供する。

提案手法

• 線形逆問題を min_x 0.5||y−Ax||^2 + λφ(x) として定式化し、変数分割（x,z）を用いてADMMを適用する。
• φの近接演算子を、分類器Dを介して自然画像集合へ写像するよう訓練された近接投影子 P に置き換え、敵対的に訓練された投影器。
• Dの境界で定義される自然画像多様体内にP(z−u)を保つようにDとPを共同訓練し、収束のリプシッツ勾配仮定を満たす。
• xの更新はx^{k+1} = P(z^{(k)} − u^{(k)})となることを示す。
• 収束定理（定理1）を提供する：Pが近接演算子を解き、∇φがリプシッツ連続で十分に大きなρを持つ場合、ADMMは停留点へ収束する。
• 実装の詳細を議論する：ネットワークアーキテクチャ（Dは残差ネットワーク、Pは畳み込みオートエンコーダ）、リプシッツ勾配の考慮、Pを訓練するデータ摂動戦略。

実験結果

リサーチクエスチョン

• RQ1 単一の学習済み近接演算子は、インペインティング、超解像、圧縮感知などの多様な線形逆問題に一般化できるか。
• RQ2 学習投影をADMMに組み込むことで、タスク間のAの変動や測定ノイズに対して堅牢な性能を発揮するか。
• RQ3 ADMMで近接演算子の代わりに非凸の学習投影を用いた場合、どのような収束保証が成り立つか。
• RQ4 提案手法は、従来のウェーブレットスパース事前知識法や多タスク向けに特別に訓練されたネットワークと比較してどうか。
• RQ5 ADMM反復の投影演算子を安定化させる訓練戦略（敵対的手法、摂動など）は何か。

主な発見

• 提案されたフレームワークは、従来のウェーブレットスパース事前知識より優れた性能を、いくつかのタスクで達成し、特別に訓練されたネットワークと同等の性能を示す。
• 圧縮感知で10×圧縮、インペインティングタスクで80%のピクセルドロップを実証し、データセット間で競争力のある結果。
• 同じネットワークが、再訓練なしで、圧縮感知、ピクセル単位および散在インペインティング、2×超解像を解く。
• リプシッツ条件と十分なρ条件の下で、非凸性にもかかわらず、学習投影を用いたADMMは停留点へ収束する。
• 学習された近接演算子は、特定分野向けネットワークと比較して、線形演算子Aの変化と測定ノイズに対して頑健である。