[論文レビュー] UncertaINR: Uncertainty Quantification of End-to-End Implicit Neural Representations for Computed Tomography

Francisca Vasconcelos, Bobby He+2 more|arXiv (Cornell University)|Feb 22, 2022

Medical Imaging Techniques and Applications被引用数 9

ひとこと要約

本稿では、画像診断の分野で重要な課題である、CT再構成における暗黙的ニューラル表現（INR）の不確実性評価（UQ）のためのベイジアンフレームワーク、UncertaINRを提案する。Monte Carloドロップアウトやその他のベイジアンディープラーニング手法をINRに適用することで、UncertaINRは、最先端の手法と同等の再構成精度を維持しながら、良好にキャリブレーションされた不確実性推定を達成した。驚くべきことに、HMC やディープアンサンブルといったより複雑な手法よりも、キャリブレーション性能と効率性の両面で優れている。

ABSTRACT

Implicit neural representations (INRs) have achieved impressive results for scene reconstruction and computer graphics, where their performance has primarily been assessed on reconstruction accuracy. As INRs make their way into other domains, where model predictions inform high-stakes decision-making, uncertainty quantification of INR inference is becoming critical. To that end, we study a Bayesian reformulation of INRs, UncertaINR, in the context of computed tomography, and evaluate several Bayesian deep learning implementations in terms of accuracy and calibration. We find that they achieve well-calibrated uncertainty, while retaining accuracy competitive with other classical, INR-based, and CNN-based reconstruction techniques. Contrary to common intuition in the Bayesian deep learning literature, we find that INRs obtain the best calibration with computationally efficient Monte Carlo dropout, outperforming Hamiltonian Monte Carlo and deep ensembles. Moreover, in contrast to the best-performing prior approaches, UncertaINR does not require a large training dataset, but only a handful of validation images.

研究の動機と目的

• 医療画像診断、特にCTにおいて、モデルの誤りが誤診につながる可能性があるという深刻な課題に対応するため、不確実性評価（UQ）の必要性を満たすこと。
• 低データ量・高リスクな医療画像診断分野でますます広がっている暗黙的ニューラル表現（INR）における不確実性評価のためのベイジアンディープラーニング手法を評価すること。
• 計算コストが低い手法、例えばMonte Carloドロップアウトが、INRベースのCT再構成において、HMC やディープアンサンブルといった高コストな代替手法よりも優れたキャリブレーション性能を達成できるかどうかを検証すること。
• INRが大規模な学習データセットを必要とせず、わずかな検証画像のみに依存して、高品質なUQを達成できることを示すこと。

提案手法

• 不確実性を考慮したCT画像再構成を目的とした、INRのベイジアン再定式化、すなわちUncertaINRを提案する。
• 複数のベイジアンディープラーニング推論手法を適用：Bayes-by-Backprop、Monte Carlo Dropout（MCD）、ディープアンサンブル（DE）、ハミルトニアンモンテカルロ（HMC）。
• INRが連続関数 $ f:(x,y) \to [0,1] $ をパラメータ化する確率的モデルを採用し、事後分布サンプリングにより不確実性を評価する。
• 訓練の安定化と再構成品質の向上のため、負の対数尤度（NLL）損失と全変動（TV）正則化を採用する。
• ECE（期待キャリブレーション誤差）やNLL（負の対数尤度）といった指標に加え、再構成精度（SNR）を用いてUQ性能を評価する。
• HMCサンプリングの文脈で、コールドポストリアリティ効果の分析を実施し、温度を下げることでSNRが向上するが、不確実性のキャリブレーション性能が劣化することを示した。

実験結果

リサーチクエスチョン

• RQ1 ベイジアンディープラーニング手法は、CT再構成における暗黙的ニューラル表現（INR）において、良好にキャリブレーションされた不確実性推定を提供できるか？
• RQ2 Monte Carloドロップアウトは、HMC やディープアンサンブルといった計算コストの高い手法よりも、INRにおける不確実性評価（UQ）で優れた性能を発揮するか？
• RQ3 UncertaINRは、最小限の学習データで高い再構成精度と信頼性の高い不確実性評価を達成できるか？
• RQ4 INRベースのCT再構成におけるコールドポストリアリティ効果の原因は何か？ また、その影響は不確実性と再構成性能の両方に及ぶか？

主な発見

• Monte Carloドロップアウト（MCD）は、評価されたすべてのベイジアン手法の中で最も優れた不確実性キャリブレーション性能を示し、HMC やディープアンサンブルを上回った。
• MCDは競争力のある再構成精度を維持し、AAPMテストセットにおいてSNR値 $ 3.44 \pm 0.11 $（DE-5 MCD UINR）および $ 3.42 \pm 0.10 $（DE-10 MCD UINR）を達成した。
• HMCベースの手法は高いSNR（$ 3.06 \pm 0.09 $）を達成したが、ECE値が $ -0.033 \pm 0.010 $ と低く、過信の傾向が強く、キャリブレーションが著しく劣化していた。
• HMC-GOP-TVではコールドポストリアリティ効果が観察され、温度を下げるほどSNRは向上するが、ECEとNLLの両方が劣化した。これは、精度と不確実性の信頼性の間でトレードオフが生じることを示唆している。
• MCDを組み合わせたディープアンサンブル（例：DE-5 MCD UINR）はさらなる性能向上を達成し、NLLが $ -5.76 \pm 0.80 $ にまで低下した。これは、高い精度と良好なキャリブレーションの両立を示している。
• UncertaINRは、大規模な学習データセットを必要とせず、わずかな検証画像のみに依存して良好にキャリブレーションされた不確実性評価を達成でき、データが限られる医療画像診断分野において顕著な利点を有する。