[論文レビュー] A Brief Review of Explainable Artificial Intelligence in Healthcare

Zahra Sadeghi, Roohallah Alizadehsani+14 more|arXiv (Cornell University)|Apr 4, 2023

Machine Learning in Healthcare被引用数 4

ひとこと要約

本論文は、医療分野における説明可能な人工知能（XAI）の体系的レビューを提供し、XAI手法を6つのタイプに分類している—特徴指向型、グローバル型、コンセプト型、スラムモデル型、局所ピクセルベース型、および人間中心型のアプローチ。モデルの解釈可能性が、臨床医の信頼を築き、リスクの高い医療意思決定における安全で透明なAIの展開を確保する上で極めて重要な役割を果たすことを強調している。

ABSTRACT

XAI refers to the techniques and methods for building AI applications which assist end users to interpret output and predictions of AI models. Black box AI applications in high-stakes decision-making situations, such as medical domain have increased the demand for transparency and explainability since wrong predictions may have severe consequences. Model explainability and interpretability are vital successful deployment of AI models in healthcare practices. AI applications' underlying reasoning needs to be transparent to clinicians in order to gain their trust. This paper presents a systematic review of XAI aspects and challenges in the healthcare domain. The primary goals of this study are to review various XAI methods, their challenges, and related machine learning models in healthcare. The methods are discussed under six categories: Features-oriented methods, global methods, concept models, surrogate models, local pixel-based methods, and human-centric methods. Most importantly, the paper explores XAI role in healthcare problems to clarify its necessity in safety-critical applications. The paper intends to establish a comprehensive understanding of XAI-related applications in the healthcare field by reviewing the related experimental results. To facilitate future research for filling research gaps, the importance of XAI models from different viewpoints and their limitations are investigated.

研究の動機と目的

• 医療応用分野における説明可能なAI（XAI）技術の現状を調査すること。
• 医療AIシステムに関連する主要なXAI手法を特定・分類すること。
• 臨床現場におけるXAIの実装に伴う課題、特に信頼性と解釈可能性の障壁を分析すること。
• XAIが安全で重要な医療環境におけるモデルの透明性と臨床医の意思決定に与える影響を評価すること。
• XAIを医療分野でさらに発展させるために必要な研究ギャップと今後の方向性を強調すること。

提案手法

• 医療分野に応用されたXAI手法に焦点を当てた体系的文献レビューの実施。
• XAI技術を6つのカテゴリーに分類：特徴指向型、グローバル型、コンセプトモデル型、スラムモデル型、局所ピクセルベース型、人間中心型アプローチ。
• 医用画像、診断、治療計画分野におけるXAI応用の実験的結果の分析。
• 各XAI手法がモデルの透明性とユーザーの信頼を向上させる効果の評価。
• 臨床的文脈における、さまざまなXAIアプローチの限界と課題の評価。
• 多様な視点からの知見を統合し、医療AIにおける今後の研究と実装を支援する。

実験結果

リサーチクエスチョン

• RQ1 医療分野で用いられる主なXAI手法は何か。また、それらはモデルの説明にどのように異なるアプローチをとるか。
• RQ2 XAI技術は、AI駆動の医療意思決定における臨床医の信頼と受容にどのように寄与するか。
• RQ3 実際の臨床環境にXAIモデルを展開するにあたり、主な課題は何か。
• RQ4 さまざまなXAI手法は、医療応用において解釈可能性、忠実度、および使いやすさの観点で、どのように性能を発揮するか。
• RQ5 医療分野におけるXAIの研究において、今後さらに調査が必要な主要なギャップは何か。

主な発見

• LIME、SHAP、およびアテンションマップなどのXAI手法は、医用画像診断分野におけるモデルの解釈可能性を顕著に向上させている。
• 人間中心型XAIアプローチは、臨床医の満足度が高く、臨床的推論プロセスとよりよく整合している。
• スラムモデルやコンセプトベースの手法は、医療分野における複雑なディープラーニングモデルの理解を高めている。
• 局所ピクセルベース手法、例えばGrad-CAMは、医用画像における関連領域を効果的に強調し、診断の透明性を向上させている。
• 進展は見られるが、XAIの評価基準の標準化や、多様な臨床現場における一貫性のあるパフォーマンス確保の課題は依然として残っている。
• XAIの臨床ワークフローへの統合は、技術的・倫理的・規制的障壁のため、依然として限定的であり、今後の研究と検証の必要性が示唆されている。