[論文レビュー] Explainable Artificial Intelligence for Medical Applications: A Review

Qiyang Sun, Alican Akman+1 more|arXiv (Cornell University)|Nov 15, 2024

Machine Learning in Healthcare被引用数 4

ひとこと要約

このレビューは、医療分野における説明可能なAI（XAI）技術を統合的に検討し、視覚的、聴覚的、マルチモーダルな分野にまたがる19の手法を分類することで、AI駆動診断における透明性を高める。臨床的信頼性、公平性、実世界への適用を向上させるために、ユーザー中心的でマルチモーダル的かつパーソナライズされたXAIフレームワークの導入を提言する。

ABSTRACT

The continuous development of artificial intelligence (AI) theory has propelled this field to unprecedented heights, owing to the relentless efforts of scholars and researchers. In the medical realm, AI takes a pivotal role, leveraging robust machine learning (ML) algorithms. AI technology in medical imaging aids physicians in X-ray, computed tomography (CT) scans, and magnetic resonance imaging (MRI) diagnoses, conducts pattern recognition and disease prediction based on acoustic data, delivers prognoses on disease types and developmental trends for patients, and employs intelligent health management wearable devices with human-computer interaction technology to name but a few. While these well-established applications have significantly assisted in medical field diagnoses, clinical decision-making, and management, collaboration between the medical and AI sectors faces an urgent challenge: How to substantiate the reliability of decision-making? The underlying issue stems from the conflict between the demand for accountability and result transparency in medical scenarios and the black-box model traits of AI. This article reviews recent research grounded in explainable artificial intelligence (XAI), with an emphasis on medical practices within the visual, audio, and multimodal perspectives. We endeavour to categorise and synthesise these practices, aiming to provide support and guidance for future researchers and healthcare professionals.

研究の動機と目的

• 複雑なモデルのブラックボックス性に起因する、AI駆動医療意思決定における透明性と責任性の重要性に対応する。
• 視覚的、聴覚的、マルチモーダルな医療応用にまたがる19のXAI技術を体系的に分類・評価する。
• 特に聴覚的およびマルチモーダル医療分野において、現在のXAI研究におけるギャップを特定し、改善への道筋を提案する。
• 臨床的関連性とユーザー信頼を高めるために、患者および医療従事者のフィードバックをXAI開発に統合する促進。
• 公平性、バイアス低減、多様で代表的なデータセットの強調を重視することで、医療分野における倫理的AIの発展を推進する。

提案手法

• モデルタイプ、説明タイプ、モダリティ、実装アプローチの4つの基準に基づき、19のXAI技術の分類体系を提言する。
• 実装に基づく分類を用いてXAI手法を分類し、解釈可能性、忠実度、臨床的有用性の観点から各手法を評価する。
• 最近のXAIの医療応用（例：腫瘍検出のためのCNN、音声病態診断）をレビュー・統合し、画像診断、音声分析、マルチモーダルシステム（例：画像と生理的データを統合するTransformer）の応用を検討する。
• 音響化（データを非言語的音声形式に変換する技術）といった新規技術を統合し、マルチモーダルデータの説明を強化する。
• バイアスの検出と低減を目的として、モデル学習および解釈段階で公平性指標（例：差別の的影響、同等の機会）を活用することを提唱する。
• 実用的で受け入れられることを保証するため、臨床医および患者の関与を含む、ユーザーに配慮した開発の必要性を強調する。

実験結果

リサーチクエスチョン

• RQ1 視覚的、聴覚的、マルチモーダルな分野にまたがる医療応用において、XAI技術を体系的かつ評価的に分類する方法は何か？
• RQ2 医療分野におけるXAIの現在の制限、特に聴覚的およびマルチモーダル医療分野における制限は何か。それらはどのように是正できるか？
• RQ3 XAIモデルは、臨床意思決定における個々の患者プロファイルにどのようにパーソナライズされ、インタラクティブかつ適応可能にすることができるか？
• RQ4 データの多様性と公平性指標は、医療XAIシステムにおけるバイアス低減と倫理的基準の向上にどのように寄与するか？
• RQ5 音響化のような新規説明手法は、マルチモーダル環境下で複雑な医療データの解釈性をどのように向上させるか？

主な発見

• 類似度マップ、LIME、注目可視化といったXAI技術は、医療画像における深層学習モデルの解釈に強く効果を示し、臨床医の信頼性と診断正確性の向上に寄与している。
• 聴覚的医療AIアプリケーションにおけるXAIの活用は依然として未開拓に近く、時間的・周波数的特性を考慮した技術的工夫が限られている。
• 特に、画像、音声、生理的データを統合するTransformerを用いたマルチモーダルXAIは、より包括的かつ文脈に即した臨床的知見を可能にする。
• 音響化は、複雑な医療データを説明するための画面上が前提でない新規な手法を提供し、アクセシビリティとマルチモーダル理解を強化する。
• 現在のXAI手法は、実臨床環境での厳密な検証を欠き、使いやすさと関連性を確保するためには、医療従事者および患者との深いつながりが不可欠である。
• 医療AIにおけるバイアスは、代表的でないデータセットによって悪化する。公平性の評価とデータ拡張技術の活用は、公平性の向上と格差の低減に不可欠である。