[論文レビュー] Total Deep Variation: A Stable Regularizer for Inverse Problems

Erich Kobler, Alexander Effland+2 more|arXiv (Cornell University)|Jun 15, 2020

Medical Imaging Techniques and Applications参考文献 55被引用数 12

ひとこと要約

本稿では、深層畳み込みニューラルネットワークと変分逆問題フレームワークを組み合わせたデータ駆動型正則化子であるTotal Deep Variation (TDV)を紹介する。深層アーキテクチャを用いてマルチスケールの局所特徴を学習することで、画像のノイズ除去、スーパーレゾリューション、医療画像再構成において最先端の性能を達成するとともに、局所リプシッツ連続性と一般化誤差のタイトな理論的バインディングを用いた厳密な安定性および一般化解析を可能にする。

ABSTRACT

Various problems in computer vision and medical imaging can be cast as inverse problems. A frequent method for solving inverse problems is the variational approach, which amounts to minimizing an energy composed of a data fidelity term and a regularizer. Classically, handcrafted regularizers are used, which are commonly outperformed by state-of-the-art deep learning approaches. In this work, we combine the variational formulation of inverse problems with deep learning by introducing the data-driven general-purpose total deep variation regularizer. In its core, a convolutional neural network extracts local features on multiple scales and in successive blocks. This combination allows for a rigorous mathematical analysis including an optimal control formulation of the training problem in a mean-field setting and a stability analysis with respect to the initial values and the parameters of the regularizer. In addition, we experimentally verify the robustness against adversarial attacks and numerically derive upper bounds for the generalization error. Finally, we achieve state-of-the-art results for numerous imaging tasks.

研究の動機と目的

• 画像のノイズ除去やスーパーレゾリューションなどの逆問題において、従来の手作業で設計された正則化子を上回る一般用途のデータ駆動型正則化子を開発すること。
• MAP推論と最適制御定式化を用いて解釈可能性を保ちながら、深層学習を変分フレームワークに統合すること。
• リプシッツ連続性と一般化誤差バインディングの厳密な解析を通じて、敵対的攻撃に対して理論的安定性と頑健性を保証すること。
• 微調整なしに、CT や MRI 再構成を含む多様な線形逆問題に転送可能であることを可能にすること。
• 正則化エネルギーに関する分位数ベースの最悪ケース解析を用いて、一般化誤差のタイトな上界を導出すること。

提案手法

• 画像パッチからのマルチスケールの局所特徴を抽出する深層残差ネットワークアーキテクチャを設計し、学習された正則化子を形成する。現代のCNN設計パターンを模倣する。
• 正則化子の訓練を平均場設定における最適制御問題として定式化し、勾配ベース最適化と理論的収束保証を可能にする。
• 正則化子の挙動を異なる画像構造下で理解するために、非線形固有関数解析を導入する。
• 一般化誤差バインディングの最悪ケース最適化問題を解くために、二次バリア法を適用し、バックトラッキングを用いたネステロフ加速勾配法を用いる。
• データ適合項とTDV正則化子を組み合わせた変分エネルギー関数を構築し、学習済みノイズ除去演算子を用いたプロキシマルアルゴリズムで最小化する。
• 陰関数微分とアンローリング技術を用いて、生成的事前学習よりも性能を向上させる判別的訓練法でネットワークを学習する。

実験結果

リサーチクエスチョン

• RQ1 深層ニューラルネットワークを変分逆問題フレームワークに正則化子として埋め込むことができるか。その際、数学的解釈可能性と安定性を維持できるか？
• RQ2 深層学習ベースの逆問題における敵対的頑健性は、どのように理論的に解析され、バインディング可能か？
• RQ3 正則化エネルギーと一般化誤差の関係は何か。また、タイトな上界を導出できるか？
• RQ4 1つの訓練済みTDV正則化子が、微調整なしにノイズ除去、スーパーレゾリューション、CT、MRI などの複数の逆問題に一般化できるか？
• RQ5 提案手法は、既存の深層学習ベースのソルバーと比較して、より少ない可学習パラメータ数で最先端の性能を達成できるか？

主な発見

• TDVは、顕著に少ない可学習パラメータ数で、画像のノイズ除去および単一画像スーパーレゾリューションにおいて最先端の性能を達成する。
• 敵対的攻撃に対して強く頑健であり、解写像の局所リプシッツ定数に基づいた理論的安定性バインディングが得られている。
• 分位数ベースの最悪ケース解析を用いて、一般化誤差の上界が導出され、正則化エネルギーのレベルが高くなるにつれてわずかに増加することが示された。
• 一般化誤差解析における最悪ケースの真値パッチは、高周波ノイズ成分やチェス盤模様のアーティファクトを示しており、バインディングの保守的性質を確認している。
• 微調整なしに、CT や MRI 再構成を含む挑戦的な医療画像処理タスクにも効果的に一般化可能であり、転送可能性が顕著に示された。
• 最適制御と平均場定式化による理論的解析により、正則化子の訓練ダイナミクスと収束特性の厳密な理解が可能になった。