[論文レビュー] Deep synthesis regularization of inverse problems

Daniel Obmann, Johannes Schwab+1 more|arXiv (Cornell University)|Feb 1, 2020

Sparse and Compressive Sensing Techniques参考文献 21被引用数 6

ひとこと要約

本稿では、深層学習と変分正則化を組み合わせる新しいフレームワークであるDeep Synthesis Regularization (DESYRE) を提案する。DESYRE は、非線形な合成演算子としてニューラルネットワークを用いることで、理論的保証付きのデータ駆動型再構成を可能にする。収束性と収束速度の理論的保証を確立し、ノイズのある状況下でも従来の手法を上回り、前方演算子の変化に対してもロバストである。

ABSTRACT

Recently, a large number of efficient deep learning methods for solving inverse problems have been developed and show outstanding numerical performance. For these deep learning methods, however, a solid theoretical foundation in the form of reconstruction guarantees is missing. In contrast, for classical reconstruction methods, such as convex variational and frame-based regularization, theoretical convergence and convergence rate results are well established. In this paper, we introduce deep synthesis regularization (DESYRE) using neural networks as nonlinear synthesis operator bridging the gap between these two worlds. The proposed method allows to exploit the deep learning benefits of being well adjustable to available training data and on the other hand comes with a solid mathematical foundation. We present a complete convergence analysis with convergence rates for the proposed deep synthesis regularization. We present a strategy for constructing a synthesis network as part of an analysis-synthesis sequence together with an appropriate training strategy. Numerical results show the plausibility of our approach.

研究の動機と目的

• データ駆動型の深層学習手法と理論的裏付けのある変分正則化の間のギャップを埋めること。
• 信号表現にニューラルネットワークを活用しつつも、数学的収束性と収束速度を保証する正則化フレームワークを開発すること。
• 前方演算子 $ K $ に依存しないデータ駆動型エンコーダ・デコーダ訓練戦略により、合成ネットワークを構築すること。
• ネットワークの再トレーニングなしに、異なる前方演算子に対してもロバストな再構成を可能にすること。
• 深層表現学習と理論的安定性・収束解析を組み合わせることで、画像再構成の質を向上させること。

提案手法

• 信号が $ u = oldsymbol{D}(oldsymbol{ heta}) $ と表現される深層合成正則化機能を提案し、$ oldsymbol{D} $ を非線形合成演算子としてニューラルネットワークが果たす。
• ネットワークの潜在コード $ oldsymbol{ heta} $ に対してスパarsity促進正則化 $ igraceVert oldsymbol{ heta} igraceVert_{1, extbf{w}} $ を用い、線形フレームベース手法を一般化する。
• 最小化問題 $ ext{argmin}_{oldsymbol{ heta}} igraceVert oldsymbol{K}oldsymbol{D}(oldsymbol{ heta}) - v_{oldsymbol{ u}} igraceVert^2 + oldsymbol{ u} igraceVert oldsymbol{ heta} igraceVert_{1, extbf{w}} $ を定義し、$ oldsymbol{K} $ を前方演算子、$ v_{oldsymbol{ u}} $ をノイズ付きデータとする。
• ソース条件の下で収束性と線形収束速度を理論的に確立し、古典的な変分正則化理論を非線形合成演算子へと拡張する。
• クリーンなデータ上でスパースオートエンコーダ（エンコーダ・デコーダペア）をトレーニングし、合成ネットワーク $ oldsymbol{D} $ を学習する。エンコーダは $ oldsymbol{D} $ の逆を近似する。
• 前方演算子 $ oldsymbol{K} $ に依存しないトレーニング戦略を採用することで、再トレーニングなしに異なる逆問題へ一般化可能となる。

実験結果

リサーチクエスチョン

• RQ1 深層ニューラルネットワークに基づく非線形合成演算子を用いて、理論的収束保証付きの正則化手法を構築できるか？
• RQ2 深層学習の表現力と変分正則化を統合しながら、数学的安定性と収束速度を維持できるか？
• RQ3 提案された深層合成正則化は、古典的変分手法や後処理ネットワークに比べ、再構成品質とロバスト性で優れているか？
• RQ4 合成ネットワークのトレーニングを前方演算子から分離でき、異なる逆問題で再利用可能か？
• RQ5 トレーニングデータにアーティファクトを含む画像を含めると、深層合成正則化のロバスト性にどのような影響があるか？

主な発見

• ノイズのないデータでは、DESYRE は PSNR が $ 35.49 /pm 0.55 $、NMSE が $ 0.004 /pm 0.0009 $ を達成し、Tikhonov や TV 正則化を定量的指標で上回った。
• ノイズのある状況下では、DESYRE はノイズを効果的に除去しアーティファクトを低減したが、TV 正則化に比べてぼやけた画像を生成しており、ノイズ抑制とエッジ保持のトレードオフが示された。
• トレーニングで使用していない30ビューのスパースビューCT問題において、DESYRE は60ビューでトレーニングされた後処理ネットワークよりも顕著にアーティファクトを低減した。
• 後処理ネットワークは、異なる前方演算子からの再構成を補正できなかったが、DESYRE は再トレーニングなしに性能を維持した。これは、一般化能力の高さを示している。
• 異なる前方演算子のデータに適用しても、DESYRE は新たなアーティファクトを生成しなかった。これに対して後処理ネットワークはそうであったため、DESYRE の演算子変更へのロバスト性が顕著に示された。
• 理論的分析により、DESYRE が標準的なソース条件の下で収束条件を満たし、線形収束速度を達成することが確認された。これは、深層学習ベースの逆問題に数学的基盤を提供する。