[論文レビュー] Explainable AI meets Healthcare: A Study on Heart Disease Dataset

Devam Dave, Het Naik+2 more|arXiv (Cornell University)|Nov 6, 2020

Explainable Artificial Intelligence (XAI)参考文献 9被引用数 71

ひとこと要約

本論文は、複数の説明可能AI技術（特徴量ベースおよび例ベース）を心臓病データセットに適用し、説明が医療予測における信頼と解釈性を高めることを示す調査とデモを行っています。

ABSTRACT

With the increasing availability of structured and unstructured data and the swift progress of analytical techniques, Artificial Intelligence (AI) is bringing a revolution to the healthcare industry. With the increasingly indispensable role of AI in healthcare, there are growing concerns over the lack of transparency and explainability in addition to potential bias encountered by predictions of the model. This is where Explainable Artificial Intelligence (XAI) comes into the picture. XAI increases the trust placed in an AI system by medical practitioners as well as AI researchers, and thus, eventually, leads to an increasingly widespread deployment of AI in healthcare. In this paper, we present different interpretability techniques. The aim is to enlighten practitioners on the understandability and interpretability of explainable AI systems using a variety of techniques available which can be very advantageous in the health-care domain. Medical diagnosis model is responsible for human life and we need to be confident enough to treat a patient as instructed by a black-box model. Our paper contains examples based on the heart disease dataset and elucidates on how the explainability techniques should be preferred to create trustworthiness while using AI systems in healthcare.

研究の動機と目的

• Heart Disease Clevelandデータセットを用いて、特徴量ベースと例ベースのXAI技術を研究・比較する。
• 医療AIにおける透明性、一貫性、公平性、信頼を説明がどう支えるかを示す。
• 異なる医療シナリオに対する説明手法の選択ガイダンスを提供する。
• 心臓病分類器の予測を解釈するためのXAIツールの実務的な利用を示す。

提案手法

• Heart Disease ClevelandデータセットとXGBoostを用いて心臓病分類器を訓練する。
• 局所および全体の視点を用いたLIMEとSHAPなど、特徴量ベースの説明を検討・適用する。
• Anchor、Counterfactuals、プロトタイプに基づくCounterfactuals、CEMなど、例ベースの説明を提示する。
• Kernel SHAPとIntegrated Gradientsを追加の解釈手法として紹介する。
• Alibiおよび関連ライブラリを用いて実データ例での説明を示す。

実験結果

リサーチクエスチョン

• RQ1 異なるXAI手法はHeart Disease Clevelandデータセットの予測をどのように説明するか？
• RQ2 この文脈で、どのXAI手法が医療従事者にとってより忠実で有用な説明を提供するか？
• RQ3 医療意思決定支援における局所的説明と全体的説明の実践的なトレードオフは何か？
• RQ4 反事実・対比的説明は潜在的な治療や診断の変更をどのように示唆できるか？

主な発見

• LIMEとSHAPは心臓病分類器に対して局所的および全体的な特徴レベルの説明を提供する。
• SHAPの可視化（フォースプロット、サマリープロット、依存プロット）は、予測に最も影響を与える特徴を明らかにする（例：ca、thal、cp、chol）。
• Anchorsはルールベースの局所説明を提供し、場合によってはSHAPより効率的である可能性がある。
• Counterfactual explanationsは予測を反転させる最小限の特徴の変更を示し、実用的な洞察（例：閉塞血管を減らすなど）を浮き彫りにする。
• Counterfactualsはプロトタイプに基づくことでクラスプロトタイプを活用して説明探索を加速する。
• CEMは特定の予測に対して必要十分な特徴を記述するPertinent PositivesとPertinent Negativesを提供する。
• Kernel SHAPとIntegrated Gradientsはモデルの挙動をスケーラブルな局所説明と全体概要として提供する。
• 本論文は、XAIツールの一連を組み合わせて医療AIへの信頼を高める方法を示している。