[論文レビュー] Trustworthy clinical AI solutions: a unified review of uncertainty quantification in deep learning models for medical image analysis

Benjamin Lambert, Florence Forbes+4 more|arXiv (Cornell University)|Oct 5, 2022

Explainable Artificial Intelligence (XAI)被引用数 13

ひとこと要約

本論文は、医療画像解析における深層学習の不確実性評価（UQ）手法について包括的なレビューを提示し、分類およびセグメンテーションタスクにおける130件の査読済み論文を評価している。ベイジアンディープラーニング、モンテカルロドロップアウト、およびコンフォーマル予測などのUQ技術を統合的に分析し、モデルの信頼性を高め、モデルの失敗を特定し、補正された信頼性の高い推定値によって臨床意思決定を支援する役割を示している。

ABSTRACT

The full acceptance of Deep Learning (DL) models in the clinical field is rather low with respect to the quantity of high-performing solutions reported in the literature. Particularly, end users are reluctant to rely on the rough predictions of DL models. Uncertainty quantification methods have been proposed in the literature as a potential response to reduce the rough decision provided by the DL black box and thus increase the interpretability and the acceptability of the result by the final user. In this review, we propose an overview of the existing methods to quantify uncertainty associated to DL predictions. We focus on applications to medical image analysis, which present specific challenges due to the high dimensionality of images and their quality variability, as well as constraints associated to real-life clinical routine. We then discuss the evaluation protocols to validate the relevance of uncertainty estimates. Finally, we highlight the open challenges of uncertainty quantification in the medical field.

研究の動機と目的

• 深層学習モデルの『ブラックボックス』性と予測に対する過剰な自信が臨床的採用を妨えるという問題に対処すること。
• 不確実性評価（UQ）がAI駆動の医療画像解析における解釈可能性、安全性、信頼性を向上させる役割を評価すること。
• 医療画像分類およびセグメンテーションに応用されたUQ手法の体系的レビューを提供し、臨床応用可能性に焦点を当てる。
• UQの信頼性を検証するための評価プロトコルを評価し、現在の検証手法におけるギャップを同定すること。
• 実臨床ワークフローに信頼性のあるUQを導入するにあたり、残された課題とオープンな問題を強調すること。

提案手法

• 医療画像解析における深層学習のUQに関する130件の査読済み論文を対象とした体系的レビュー。分類およびセグメンテーションタスクをカバー。
• UQ手法をベイジアンディープラーニング、モンテカルロドロップアウト、コンフォーマル予測、証拠的ディープラーニング、および特徴ベースのアプローチに分類。
• 不確実性推定を統合するモデルアーキテクチャおよびトレーニング戦略（補助ネットワークやガウス過程を含む）の分析。
• 補正誤差、予測エントロピー、カバレッジ保証などの指標を用いた不確実性推定手法の評価。
• テスト時増強、MCドロップアウト、分布シフトへのロバストネスに基づく評価フレームワークに従った評価プロトコルの分類。
• モダリティ（MRI、CT、X線、超音波、ヒストパスロジー）および応用分野（腫瘍セグメンテーション、結節検出など）にわたる分析結果の統合。

実験結果

リサーチクエスチョン

• RQ1 異なる不確実性評価手法は、多様な医療画像タスクおよびモダリティにおいてどのように性能を発揮するか？
• RQ2 臨床的深層学習モデルにおける不確実性推定の信頼性を検証するにあたり、最も効果的な評価プロトコルは何か？
• RQ3 不確実性評価は、臨床的信頼性を向上させ、AI支援診断における静黙的失敗を低減するために、どのような形で活用できるか？
• RQ4 実臨床環境における不確実性に配慮した深層学習モデルを導入するにあたり、主な制限要因と未解決の課題は何か？
• RQ5 不確実性推定は、モデルの失敗モード、データ品質の問題、または分布シフトとどのように相関するか？

主な発見

• 不確実性評価は、臨床医が高リスクまたは曖昧な予測を特定するのに役立つ信頼性の高い推定値を提供することで、モデルの解釈性を顕著に向上させる。
• モンテカルロドロップアウト、ベイジアンニューラルネットワーク、およびコンフォーマル予測などの手法は、複数の画像モダリティにわたり信頼性の高い不確実性推定を実現している。
• 証拠的ディープラーニングおよびラベル分布モデルは、低データまたは分布外の状況においても、アレアトリックおよびエピステミック不確実性を効果的に捉える。
• 補正誤差やカバレッジ保証に基づく評価プロトコルは、UQの信頼性を検証するために不可欠であるが、研究間で標準化が不十分な状況が依然として存在する。
• UQの応用の大部分はセグメンテーションタスク（例：腫瘍、前立腺、肺結節）に集中しているが、分類および異常検出分野への関心も高まっている。
• 進展は見られるものの、一般化性、分布シフトへのロバストネス、および臨床ワークフローへの統合に関する課題は依然として存在し、標準化された評価および導入フレームワークの欠如が要因である。