[論文レビュー] Explainable AI for clinical and remote health applications: a survey on tabular and time series data

Flavio Di Martino, Franca Delmastro|arXiv (Cornell University)|Sep 14, 2022

Explainable Artificial Intelligence (XAI)被引用数 10

ひとこと要約

本サーベイは、臨床およびリモートヘルス応用における表形式および時系列データの説明可能AI（XAI）技術について包括的な分析を提供し、臨床的妥当性、一貫性、人間中心の評価といった重要な評価基準を特定している。視覚や自然言語処理（NLP）と比較して、これらのデータタイプにおけるXAI研究のギャップを強調し、信頼できる、実用的かつ導入可能な医療分野向けAIを実現するための方法論的改善と標準化された評価の必要性を訴えている。

ABSTRACT

Nowadays Artificial Intelligence (AI) has become a fundamental component of healthcare applications, both clinical and remote, but the best performing AI systems are often too complex to be self-explaining. Explainable AI (XAI) techniques are defined to unveil the reasoning behind the system's predictions and decisions, and they become even more critical when dealing with sensitive and personal health data. It is worth noting that XAI has not gathered the same attention across different research areas and data types, especially in healthcare. In particular, many clinical and remote health applications are based on tabular and time series data, respectively, and XAI is not commonly analysed on these data types, while computer vision and Natural Language Processing (NLP) are the reference applications. To provide an overview of XAI methods that are most suitable for tabular and time series data in the healthcare domain, this paper provides a review of the literature in the last 5 years, illustrating the type of generated explanations and the efforts provided to evaluate their relevance and quality. Specifically, we identify clinical validation, consistency assessment, objective and standardised quality evaluation, and human-centered quality assessment as key features to ensure effective explanations for the end users. Finally, we highlight the main research challenges in the field as well as the limitations of existing XAI methods.

研究の動機と目的

• 表形式および時系列データのXAIに向けた関心の不足に起因する、臨床およびリモートヘルス応用における課題を解決すること。これは、実世界の医療システムで広く使用されているにもかかわらず、その影響が十分に注目されていない。
• 表形式および時系列データに適したXAI手法を特定・評価すること。これらは、画像やテキストデータとは構造的・複雑性の面で顕著に異なる。
• 多様な最終ユーザー（特に医療従事者や患者など）が信頼できるXAIの説明を提供するため、臨床的妥当性、一貫性評価、人間中心の評価の重要性を強調すること。
• 現在のXAI手法が、特徴量間の相互作用、時間的相関、および時空間的パターンを適切に扱えないことの限界を明らかにすること。
• 技術的XAI性能と実世界の臨床応用の間のギャップを埋めるために、標準的で客観的かつ臨床的に関連性のある評価フレームワークの構築を提言すること。

提案手法

• 過去5年間の文献を対象とした体系的レビューを実施し、表形式および時系列データを用いた臨床およびリモートヘルス分野におけるXAI応用に焦点を当てた。
• 表形式データ（例：特徴量の重要度、LIME、SHAP）および時系列データ（例：注目マップ、NLPおよびCVから適応された勾配ベース手法）に適したXAI技術を分類した。
• XAI手法の評価を4つの主要な視点から行った：臨床的妥当性、複数の手法間の一貫性、客観的かつ標準化された品質評価、人間中心の評価。
• 視覚およびNLPベースのXAI手法を健康データに適用する際の課題を分析した。特に、時間的依存性、多次元相関、および混合データ型を適切に扱えない点が問題である。
• 分野の専門知識とユーザーのニーズを統合したXAI品質評価フレームワークを提案した。特に、患者やリモートモニタリング担当者など非専門家ユーザーの視点を重視した。
• XAIの医療分野における倫理的含意（公平性、説明責任、患者中心の意思決定）を議論し、説明可能性と倫理的AI原則の関連性を提示した。

実験結果

リサーチクエスチョン

• RQ1 臨床およびリモートヘルス応用における表形式および時系列データに最も適したXAI技術は何か。また、これらはコンピュータビジョンやNLPで用いられる手法とどのように異なるか。
• RQ2 XAIの説明の質と信頼性を保証するための主な評価基準（例：臨床的妥当性、一貫性、人間中心の評価）は何か。
• RQ3 なぜ既存のXAI手法は表形式および時系列の健康データに対して不十分なのか。また、これらのデータタイプが説明可能性に与える特有の課題は何か。
• RQ4 XAIは、特にリモートモニタリングおよび意思決定支援システムにおいて、公平性、説明責任、患者の自律性を含む倫理的AIにどのように貢献できるか。
• RQ5 実世界の臨床およびリモートヘルス環境へのXAIの導入を妨げる主な障壁は何か。信頼できる、スケーラブルなAIシステムを実現するために何が必要か。

主な発見

• 電子カルテ（EHR）およびリモートモニタリングシステムで広く使用されているにもかかわらず、表形式および時系列データのXAI手法は、コンピュータビジョンやNLPと比較して研究が著しく不足している。
• 多くの既存XAI手法は、複雑な特徴量相互作用や混合データ型（連続値とカテゴリカルデータの併存）を適切に処理できないため、表形式データに不適切である。
• 時系列データは、再発する時空間的パターンや多次元相関といった独自の課題を有しており、これらは他の分野から適応されたXAI手法ではしばしば無視されている。
• 臨床的妥当性は、説明が医学的知識と整合しており、臨床的信頼性を高めることを保証するための重要なが、しばしばXAI評価で欠落している。
• 複数のXAI手法間の一貫性評価は、モデルの信頼性に関する初期の知見を提供できるが、耐性のさらなる評価には感度分析が必要である。
• 非専門家ユーザー（患者など）の使いやすさと解釈可能性を含む人間中心の評価は、信頼できるXAIを実現するために不可欠であるが、現行の医療分野向けXAI研究ではしばしば無視されている。