[論文レビュー] An inner-loop free solution to inverse problems using deep neural networks

Qi Wei, Kai Fan+2 more|arXiv (Cornell University)|Sep 6, 2017

Numerical methods in inverse problems参考文献 23被引用数 16

ひとこと要約

本稿では、2つの事前学習済みディープニューラルネットワークを用いて、逆問題に対する内側ループフリーなADMMフレームワークを提案する。1つは条件付きノイズ除去オートエンコーダ（cDAE）であり、暗黙的な事前分布正則化を実現する。もう1つは行列逆行列の近似を目的とした構造的CNNであり、線形時間の更新を可能にする。この手法は、従来の内側ループを含むADMMと比較して、最先端の精度と高速化を達成しており、超解像やカラー化タスクを含む合成データおよび実データ上で検証されている。

ABSTRACT

We propose a new method that uses deep learning techniques to accelerate the popular alternating direction method of multipliers (ADMM) solution for inverse problems. The ADMM updates consist of a proximity operator, a least squares regression that includes a big matrix inversion, and an explicit solution for updating the dual variables. Typically, inner loops are required to solve the first two sub-minimization problems due to the intractability of the prior and the matrix inversion. To avoid such drawbacks or limitations, we propose an inner-loop free update rule with two pre-trained deep convolutional architectures. More specifically, we learn a conditional denoising auto-encoder which imposes an implicit data-dependent prior/regularization on ground-truth in the first sub-minimization problem. This design follows an empirical Bayesian strategy, leading to so-called amortized inference. For matrix inversion in the second sub-problem, we learn a convolutional neural network to approximate the matrix inversion, i.e., the inverse mapping is learned by feeding the input through the learned forward network. Note that training this neural network does not require ground-truth or measurements, i.e., it is data-independent. Extensive experiments on both synthetic data and real datasets demonstrate the efficiency and accuracy of the proposed method compared with the conventional ADMM solution using inner loops for solving inverse problems.

研究の動機と目的

• 逆問題におけるADMMの内側ループ反復による計算ボトルネックを解消すること、特に行列逆行列と事前分布正則化の計算コストに起因するものである。
• ADMMの部分問題における反復的ソルバーの必要性をなくし、それらを学習されたニューラルネットワークマッピングに置き換えること。
• 2つのディープネットワークを事前学習することで、逆問題の高速推論を実現すること：1つは近位作用素（事前分布）を、もう1つは行列逆行列を担当する。
• 行列逆行列ネットワークのデータに依存しない学習戦略を設計し、多様な逆問題に再利用可能にする。
• 逆行列ネットワークの教師データを必要とせず、画像再構成および超解像において高い性能を達成すること。

提案手法

• 測定値と正解画像のペアを用いて事前学習した条件付きノイズ除去オートエンコーダ（cDAE）を用いて、標準的なADMMの近位作用素を置き換え、データに依存する事前分布を暗黙的に学習する。
• cDAEによるアモアタイズド推論を用いて、ADMM反復中に反復的最適化を回避し、1回の順方向伝搬で高速な1パス推論を実現する。
• 最小二乗部分問題における計算コストの高い行列逆行列を、入力を逆出力にマップする学習可能な畳み込みニューラルネットワークに置き換える。
• 行列逆行列ネットワークを、教師データを必要とせず、ノイズとフォワードモデル出力のみを用いて学習させることで、データに依存せず、多様な逆問題に再利用可能にする。
• 空間的構造を保持し、効率的な推論を可能にするために、z更新ステップ用に対称的かつ完全畳み込み型のネットワークアーキテクチャを設計する。
• 両ネットワークをADMMフレームワークに統合し、各ADMM反復が2つの事前学習済みネットワークを順方向に1回通過するのみで、内側ループの反復を完全に排除する。

実験結果

リサーチクエスチョン

• RQ1 深層ニューラルネットワークを用いて、ADMMベースの逆問題ソルバーにおける内側ループ反復を排除できるか？
• RQ2 条件付きノイズ除去オートエンコーダが、反復的近位最小化を1回の順方向伝搬に置き換えるのに有効に機能するか？
• RQ3 畳み込みニューラルネットワークが、教師データを必要とせず、大きな行列逆行列を近似できるか？
• RQ4 提案手法による内側ループフリーな手法が、従来の内側ループを含むADMMと比較して、再構成精度を維持または向上できるか？
• RQ5 行列逆行列ネットワークをデータに依存しない方法で学習させても、多様な逆問題に一般化できるか？

主な発見

• 提案手法は、従来のADMMと比較して顕著な高速化を達成しており、各ADMM反復が反復的ソルバーではなく、2つの事前学習済みネットワークを1回の順方向伝搬で行うのみである。
• 条件付きノイズ除去オートエンコーダは、データに依存する事前分布を効果的に学習し、アモアタイズド推論により正確な信号回復を可能にする。
• 行列逆行列ネットワークは、教師データを必要とせず、ノイズとフォワードモデル出力のみを用いて正しく学習され、高い精度を達成している。
• 合成データおよび実データ（超解像および統合的超解像・カラー化を含む）において、本手法は再構成精度と計算効率の両面で従来のADMMを上回っている。
• フレームワークは、行列逆行列ネットワークがデータに依存しないため、多様な逆問題にうまく一般化しており、異なる問題に再利用可能である。
• ピクセルシャッフルと adversarial loss の使用により、特に高解像度画像において、トレーニングの安定性と性能が向上した。