[論文レビュー] Denoising Score-Matching for Uncertainty Quantification in Inverse Problems

Zaccharie Ramzi, Benjamin Rémy+3 more|arXiv (Cornell University)|Nov 16, 2020

Medical Imaging Techniques and Applications参考文献 29被引用数 4

ひとこと要約

本稿では、データから事前分布を学習するためのドメイン適応型スコアマッチングを用いたベイジアンフレームワークを提案し、アンナールドハミルトニアンモンテカルロサンプリングにより不確実性を定量化するMRI再構成手法を提示する。この手法は、高品質な再構成を達成するとともに、事後分布サンプリングを通じて不確実性を明示的に定量化し、データに依存する領域や確定的ネットワークでは捉えきれない不安定な特徴を明らかにする。

ABSTRACT

Deep neural networks have proven extremely efficient at solving a wide rangeof inverse problems, but most often the uncertainty on the solution they provideis hard to quantify. In this work, we propose a generic Bayesian framework forsolving inverse problems, in which we limit the use of deep neural networks tolearning a prior distribution on the signals to recover. We adopt recent denoisingscore matching techniques to learn this prior from data, and subsequently use it aspart of an annealed Hamiltonian Monte-Carlo scheme to sample the full posteriorof image inverse problems. We apply this framework to Magnetic ResonanceImage (MRI) reconstruction and illustrate how this approach not only yields highquality reconstructions but can also be used to assess the uncertainty on particularfeatures of a reconstructed image.

研究の動機と目的

• 深層学習ベースの逆問題における不確実性定量化の欠如に取り組むこと。特にMRI再構成に焦点を当てる。
• スコアに基づく生成的モデリングを活用し、スケーラブルでデータ駆動型のベイジアンフレームワークを構築すること。
• ノイズ除去スコアマッチングで訓練されたスコアネットワークを用いて、高次元画像空間における事後分布の完全なサンプリングを可能にすること。
• 不確実性が事後サンプルを通じて定量化され、可視化可能であることを示すこと。これにより、データによって制約が薄い領域が明らかになる。

提案手法

• 残差U-Netアーキテクチャをノイズ除去スコアマッチングにより訓練し、データ分布のスコアを推定することで、MRI画像上の事前分布を学習する。
• スコアネットワークの訓練安定性とスコア品質を向上させるために、スペクトルノルム制約による正則化を実施する。
• アンナールドハミルトニアンモンテカルロ（HMC）を用いて、測定されたk空間データからの尤度と学習済み事前分布を組み合わせ、事後分布p(x|y)からのサンプリングを実行する。
• 最終的なノイズ除去ステップとして、期待値によるデノイジングサンプル（EDS）方式を用いて最後のHMCサンプルを改善する。
• 単一コイルMRIにおけるレトロスペクティブなアンダーサンプリングに本フレームワークを適用し、加速因子4のfastMRIデータセットを用いる。
• 明示的な密度推定を避けることで、スコア勾配のみに依存するアプローチを採用し、高次元画像空間におけるスケーラブルな推論を実現する。

実験結果

リサーチクエスチョン

• RQ1 ノイズ除去スコアマッチングは、ベイジアンMRI再構成のための事前分布学習に効果的に適用可能か？
• RQ2 アンナールドHMCによる事後分布サンプリングは、再構成されたMRI特徴の不確実性をどの程度正確に定量化できるか？
• RQ3 このスコアベースのアプローチは、再構成品質を維持しつつ、決定的深層学習手法に比べて不確実性認識の面で優れているか？
• RQ4 スペクトル正規化は、スコアネットワークの訓練および事後分布サンプリングの安定性にどのような影響を及えるか？
• RQ5 本フレームワークは、ノイズレベルやアンダーサンプリングパターンの変動があるデータに対しても適応可能か？

主な発見

• 事後サンプル全体の平均PSNRは30.04 dBに達し、ゼロフィルティング再構成（25.55 dB）を著しく上回り、最先端のUPDNet（32.15 dB）に近づいた。
• 個々の事後サンプルの平均PSNRは27.63 dBであった。これは、サンプリングプロセスが画像品質を保持しつつ不確実性評価を可能にしていることを示している。
• 事後サンプルは赤色の領域オブジェクトの周囲で高いばらつきを示し、データによる制約が薄いことを示している。これは決定的ネットワークでは検出できない特徴である。
• 本フレームワークは高次元MRIデータ（320×320×2）に成功裏にスケーリングでき、GAN や VAE に比べてスコアベースモデルのスケーラビリティを実証した。
• HMC収束の課題にもかかわらず、最終段階のEDSデノイジングによりサンプル品質が著しく向上した。これは実用的導入のための有効な道筋を示している。
• 本手法により不確実性の可視化が可能となった。事後分散が大きい領域は、測定値によって十分に支持されていない特徴を示しており、臨床的解釈を支援する。