[論文レビュー] Unbox the Black-box for the Medical Explainable AI via Multi-modal and Multi-centre Data Fusion: A Mini-Review, Two Showcases and Beyond

Guang Yang, Qinghao Ye+1 more|arXiv (Cornell University)|Feb 3, 2021

Explainable Artificial Intelligence (XAI)参考文献 169被引用数 15

ひとこと要約

本論文は、医療画像における説明可能なAI（XAI）を強化するためのマルチモodalかつマルチセンターデータ統合フレームワークを提案する。これにより、モデルの透明性と臨床的信頼性が向上する。多様なデータソース（医療画像、臨床記録、ゲノム情報など）を統合することで、高度な可視化およびメタ解釈技術を用いて、より解釈可能で人間が理解可能な説明を提供する。2つの実臨床応用事例において検証され、モデルの忠実度とユーザーの理解度が向上した。

ABSTRACT

Explainable Artificial Intelligence (XAI) is an emerging research topic of machine learning aimed at unboxing how AI systems' black-box choices are made. This research field inspects the measures and models involved in decision-making and seeks solutions to explain them explicitly. Many of the machine learning algorithms can not manifest how and why a decision has been cast. This is particularly true of the most popular deep neural network approaches currently in use. Consequently, our confidence in AI systems can be hindered by the lack of explainability in these black-box models. The XAI becomes more and more crucial for deep learning powered applications, especially for medical and healthcare studies, although in general these deep neural networks can return an arresting dividend in performance. The insufficient explainability and transparency in most existing AI systems can be one of the major reasons that successful implementation and integration of AI tools into routine clinical practice are uncommon. In this study, we first surveyed the current progress of XAI and in particular its advances in healthcare applications. We then introduced our solutions for XAI leveraging multi-modal and multi-centre data fusion, and subsequently validated in two showcases following real clinical scenarios. Comprehensive quantitative and qualitative analyses can prove the efficacy of our proposed XAI solutions, from which we can envisage successful applications in a broader range of clinical questions.

研究の動機と目的

• 医療AIで使用されるディープラーニングモデルにおける説明可能性の欠如という深刻な課題に取り組み、臨床的採用と信頼性の向上を図る。
• 臨床医や患者に不適切な、低レベルで直感的でない説明（例：ヒートマップ）を生成する現在のXAI手法の限界を克服する。
• 画像、臨床、ゲノムのマルチモダリティおよびマルチセンターデータを統合する包括的なフレームワークを構築し、上位レベルの臨床的意味を持つ説明を生成する。
• 本手法の実臨床応用における実現可能性と有効性を示し、医療ワークフローへの広範な統合を支援する。
• 技術的モデルの解釈可能性と人間中心の理解のギャップを埋め、臨床医の受容性と規制適合性を向上させる。

提案手法

• 複数の臨床センターから得られる医療画像、電子的健康記録、ゲノムデータなど、異種のデータソースを統合するマルチモダリティデータ統合を採用する。
• 完全にアノテートされたデータセットに依存しないように、部分的にラベル付けされたデータや間接的監視を用いる弱教師付き学習技術を活用し、高コストな完全ラベル付きデータの依存度を低減する。
• 類似度マップや注目メカニズムなどの説明可能なAI（XAI）技術を用いて、初期のモデルレベルの説明を生成する。
• メタ解釈レイヤーを実装し、低レベルの特徴重要度を、解剖学的・病理学的に意味のある高レベルの解釈に集約する。
• 情報統合戦略を用いて、複数モダリティ間の説明を整合させ、一貫性と臨床的関連性を向上させる。
• 2つの実臨床シナリオ（1）疾患分類、（2）医療画像セグメンテーション）を通じてフレームワークを検証し、定量的指標と定性的な専門家レビューの両方を用いる。

実験結果

リサーチクエスチョン

• RQ1 マルチモダリティおよびマルチセンターデータ統合は、医療画像分野におけるAIモデル意思決定の解釈可能性と臨床的関連性をどのように向上させるか？
• RQ2 統合されたデータソースから導出されるメタ解釈は、標準的なXAI手法と比較して、人間のAI意思決定理解をどの程度向上させるか？
• RQ3 提案されたXAIフレームワークは、複雑で多様なデータを含む実臨床シナリオに効果的に適用可能で、検証可能か？
• RQ4 画像以外の臨床データ（例：EHR、検査結果）の統合は、医療診断におけるAI説明の頑健性と信頼性をどのように向上させるか？
• RQ5 技術的モデルの説明とエンドユーザー（例：レントゲン診断医、臨床医）の認知的・臨床的ニーズを一致させるにあたり、主な課題は何か？

主な発見

• 提案されたマルチモダリティおよびマルチセンターデータ統合フレームワークは、医療画像分野におけるディープラーニングモデルの解釈可能性を著しく向上させ、より臨床的意味のある説明を生成した。
• 統合されたデータソースから導出されたメタ解釈は、低レベルの類似度マップを、解釈可能な解剖学的・病理学的概念に成功して変換し、人間の理解度を向上させた。
• 2つの臨床シナリオにおける包括的な定量的および定性的な評価により、XAIソリューションの有効性が実証され、モデルの忠実度と専門家の臨床的推論との整合性が向上した。
• 画像以外の臨床データ（例：EHR、検査結果）の統合により、モデルの頑健性が向上し、画像のみに依存する傾向が軽減され、多様な患者集団への一般化能が向上した。
• 透明で監査可能で追跡可能な意思決定プロセスを提供するため、フレームワークは主な規制基準（例：GDPR、FDA、CE、NMPA）への適合を支援した。
• 本研究は、XAI分野における重要な研究ギャップを特定した。すなわち、人間中心の説明設計の必要性であり、今後のXAIシステムは人間と機械のインタラクションおよび臨床ワークフロー統合を最適化する必要があると提言した。