[論文レビュー] Deep Bayesian Inversion

Jonas Adler, Ozan Öktem|arXiv (Cornell University)|Nov 14, 2018

Medical Imaging Techniques and Applications被引用数 38

ひとこと要約

本稿では、大規模3次元画像処理における2つの深層学習ベースのベイズ逆問題手法を提案する。1つは、ミニディスクリミネーターを用いたワッサーシュタインGANによる事後分布からのサンプリング手法であり、もう1つは、新しい損失関数を用いた直接的ニューラルネットワークアプローチによる平均推定手法である。両手法とも、超高線量低線量3次元ヘリカルCTにおける計算効率の高い不確実性評価を可能にし、肝臓の暗黒病変などの病理的特徴の検出において高い性能を発揮する。

ABSTRACT

Characterizing statistical properties of solutions of inverse problems is essential for decision making. Bayesian inversion offers a tractable framework for this purpose, but current approaches are computationally unfeasible for most realistic imaging applications in the clinic. We introduce two novel deep learning based methods for solving large-scale inverse problems using Bayesian inversion: a sampling based method using a WGAN with a novel mini-discriminator and a direct approach that trains a neural network using a novel loss function. The performance of both methods is demonstrated on image reconstruction in ultra low dose 3D helical CT. We compute the posterior mean and standard deviation of the 3D images followed by a hypothesis test to assess whether a "dark spot" in the liver of a cancer stricken patient is present. Both methods are computationally efficient and our evaluation shows very promising performance that clearly supports the claim that Bayesian inversion is usable for 3D imaging in time critical applications.

研究の動機と目的

• 大規模3次元画像処理応用におけるベイズ逆問題の計算不能性に対処する。
• 逆問題における事後分布の近似に、効率的な深層学習ベースの手法を開発する。
• 時間的に制限のある臨床意思決定における実用的不確実性評価を可能にする。
• 臨床的意義のある超高線量低線量3次元ヘリカルCT上で、これらの手法を実証する。

提案手法

• 低解像度特徴（8×8）を用いて訓練されたミニディスクリミネーターを備えた条件付きワッサーシュタインGANを用い、事後分布からのサンプリングを実現する。
• 測定データに条件付けられた画像再構成を可能にする、データからのスキップ接続付きのジェネレータネットワークを採用する。
• 再構成誤差を最小化し、L2正則化を施す新しい損失関数を導入し、直接的な事後平均推定を実現する。
• GANの訓練を安定化させるために、勾配ペナルティおよびドリフト正則化を適用する。
• 安定な訓練を実現するため、ADAM最適化手法を用い、学習率の段階的減少とバッチ正則化を適用する。
• 過学習を軽減するため、データオーグメンテーションと重み減衰を適用する。

実験結果

リサーチクエスチョン

• RQ1 大規模3次元逆問題における複雑な事後分布を、深層生成モデルが効果的に近似できるか？
• RQ2 ミニディスクリミネーターを備えた条件付きGANは、3次元医療画像における効率的かつ安定的な事後分布サンプリングを可能にするか？
• RQ3 新しい損失関数を用いた直接的ニューラルネットワークアプローチは、従来手法に比べて事後平均推定において優れた性能を示すか？
• RQ4 これらの手法は、肝臓病変の検出といった臨床的意義のある意思決定における信頼性のある不確実性評価を提供できるか？
• RQ5 手作業で設計された事前分布（たとえば、TVやBesov事前分布）と学習された事前分布の間で、事後分布の挙動と臨床的意義にどのような差が生じるか？

主な発見

• 提案手法のGANベースのアプローチにより、高精度な事後分布からのサンプリングが可能となり、3次元画像再構成における不確実性評価が実現された。
• 直接推定アプローチは、最小限の計算オーバーヘッドで正確な事後平均推定を達成した。
• 両手法とも計算的に効率的であり、超高線量低線量3次元ヘリカルCTのような時間的に制限のある臨床応用に適している。
• 仮説検定を用いて、がん患者の肝臓における病理的暗黒病変を効果的に検出できた。臨床的意義が裏付けられた。
• 本研究では、TVやBesov事前分布といった手作業で設計された事前分布が、弱収束的にガウスランダムフィールドに近づくことが示された。これは、最終的な結果に与える影響が学習された事前分布に比べて限定的であることを示唆している。
• データオーグメンテーションと正則化を適用しても、過学習が観察された。これは、より多くの訓練データを用いることでさらなる改善が可能である可能性を示している。