[論文レビュー] Unsupervised Deep Basis Pursuit: Learning inverse problems without ground-truth data

Jonathan I. Tamir, Stella X. Yu+1 more|arXiv (Cornell University)|Oct 29, 2019

Sparse and Compressive Sensing Techniques参考文献 18被引用数 22

ひとこと要約

本稿では、測定ノイズの統計のみを用いて、教師なしでMRIの逆問題のための画像再構成を学習するUnsupervised Deep Basis Pursuit (DBP) を提案する。この手法は、深層畳み込みニューラルネットワーク（CNN）の事前分布と画像再構成を同時に最適化することで、教師データが不要な再構成性能を達成する。このアプローチにより、完全にスキャンされたデータが入手できない高分解能動的MRIなどの応用が可能になる。

ABSTRACT

Basis pursuit is a compressed sensing optimization in which the l1-norm is minimized subject to model error constraints. Here we use a deep neural network prior instead of l1-regularization. Using known noise statistics, we jointly learn the prior and reconstruct images without access to ground-truth data. During training, we use alternating minimization across an unrolled iterative network and jointly solve for the neural network weights and training set image reconstructions. At inference, we fix the weights and pass the measurements through the network. We compare reconstruction performance between unsupervised and supervised (i.e. with ground-truth) methods. We hypothesize this technique could be used to learn reconstruction when ground-truth data are unavailable, such as in high-resolution dynamic MRI.

研究の動機と目的

• 教師データが入手不可能または不切実な状況において、画像再構成のための深層学習モデルを訓練する課題に対処すること。
• 測定値と教師画像のペアを必要とせず、既知のノイズ統計を活用して深層CNN事前分布を学習する手法を開発すること。
• 完全にスキャンされたデータが高価または不可能な逆問題（例：アンダーサンプリングMRI）において、強力でモデルベースの深層学習を可能にすること。
• 測定ドメインの損失関数を用いた教師なし学習が、教師あり学習と同等の再構成性能を達成できることを示すこと。

提案手法

• 本手法は、従来の ℓ₁-ノルム正則化を深層CNNに基づく事前分布に置き換えた、基底 Pursuit デノイジングに類似した制約付き最適化問題として画像再構成を定式化する。
• トレーニング中に、CNN重みと再構成画像を交互に最適化する。その際、測定値と前方射影された再構成画像との残差誤差がノイズ境界ε以内に収まることが制約条件となる。
• トレーニング中は、ユークリッドノルムを用いて測定ドメイン（フーリエドメイン）で損失を計算し、画像ドメインの再構成誤差のノイズのある代理指標とする。
• ネットワークアーキテクチャは、実部と虚部の成分を別々のチャネルで扱う、異なる可能でアンラップされたU-Netであり、CNNとデータ整合性層の両方を端末から端末までバックプロパゲーション可能である。
• 推論時、学習済みのCNN重みは固定され、教師なしのスーパービジョンを必要とせず、新しい測定値をネットワークに通して再構成画像を出力する。
• 本手法は、アンダーサンプリングされたマルチチャネルMRIで評価され、教師ありDBPおよびMoDLと比較され、テストセットおよび検証セットにおけるNRMSEで性能が測定された。

実験結果

リサーチクエスチョン

• RQ1 教師画像が入手不可能な状況でも、深層CNN事前分布を画像再構成に効果的に学習できるか？
• RQ2 測定ノイズ統計のみを用いた教師なし学習は、教師あり学習に比べて再構成品質でどの程度の差があるか？
• RQ3 アンラップされたネットワークにおけるハードなデータ整合性制約の導入は、教師なし監視の欠如下でも安定性と性能向上に寄与するか？
• RQ4 本手法は、教師データなしで、MoDLのような最先端の教師あり手法と同等の性能を達成できるか？

主な発見

• 最適なアンラップ数（12）を用いた場合、教師なしDBPはテストセットで平均NRMSE 0.085を達成し、PICS（NRMSE = 0.102）およびMoDL（NRMSE = 0.098）を上回った。
• 教師データが全くない状況下でも、教師ありDBPの性能の5％以内に収まり、監視なしの状況下でも優れた性能を示した。
• 教師なし手法は、推論時のアンラップ数の変動に対してより安定した性能を示し、10回を超えると性能低下が最小限に抑えられた。一方、MoDLは高めのアンラップ数で過学習を示した。
• 中間特徴マップの可視化から、教師ありDBPネットワークは教師なしバージョンよりも画像特徴をより効果的に強調・ノイズ除去していたが、両者とも類似した構造的事前分布を学習していた。
• 教師なし学習プロセスでは、測定ドメインの損失が画像ドメイン誤差のノイズのある代理指標であるため、最適化更新がノイズが多く、トレーニング中のNRMSE曲線が揺らぎを示した。
• 5回のアンラップで学習した場合、教師なしDBPはテストセットNRMSEが0.092であったが、検証セット最適化によるアンラップ数（12）に設定すると0.085に低下し、推論ハイパーパramータの最適化が性能向上に寄与することが示された。