[論文レビュー] Explainable AI applications in the Medical Domain: a systematic review

Nicoletta Prentzas, Antonis Kakas+1 more|arXiv (Cornell University)|Aug 10, 2023

Artificial Intelligence in Healthcare and Education被引用数 19

ひとこと要約

医療意思決定支援における説明可能AI（XAI）ソリューションの系統的レビューを行い、198件の最近の記事を分析して傾向・技術・ギャップを特定する。

ABSTRACT

Artificial Intelligence in Medicine has made significant progress with emerging applications in medical imaging, patient care, and other areas. While these applications have proven successful in retrospective studies, very few of them were applied in practice.The field of Medical AI faces various challenges, in terms of building user trust, complying with regulations, using data ethically.Explainable AI (XAI) aims to enable humans understand AI and trust its results. This paper presents a literature review on the recent developments of XAI solutions for medical decision support, based on a representative sample of 198 articles published in recent years. The systematic synthesis of the relevant articles resulted in several findings. (1) model-agnostic XAI techniques were mostly employed in these solutions, (2) deep learning models are utilized more than other types of machine learning models, (3) explainability was applied to promote trust, but very few works reported the physicians participation in the loop, (4) visual and interactive user interface is more useful in understanding the explanation and the recommendation of the system. More research is needed in collaboration between medical and AI experts, that could guide the development of suitable frameworks for the design, implementation, and evaluation of XAI solutions in medicine.

研究の動機と目的

• 医療意思決定支援および関連領域におけるXAIの利用を動機づけ、マッピングする。
• 医療AIアプリケーションで用いられる主要なXAI技術とモデルタイプを特定する。
• 説明可能性が信頼、ユーザーインタラクション、臨床統合をどのように支えるかを評価する。
• 医師の参加や医療専門家とAI専門家の協力などのギャップを強調する。

提案手法

• 近年の198件の記事の代表的な文献サンプリングを実施する。
• モデル非依存型XAI技術と深層学習モデルの普及に関する知見を統合する。
• 信頼、医師の関与、およびUIデザインにおける説明可能性の役割を評価する。

実験結果

リサーチクエスチョン

• RQ1 医療意思決定支援で最も一般的に用いられるXAI技術は何か？
• RQ2 どのモデルファミリ（例：深層学習）がXAI医療アプリケーションを支配しているか？
• RQ3 説明可能性は信頼と臨床医の受け入れを促進するためにどのように活用されているか？
• RQ4 医師はXAI開発ループに積極的に関与しているか、UI/UXは理解をどのように支援しているか？
• RQ5 特定されたギャップと医療とAI専門家間の将来の協力ニーズは何か？

主な発見

• モデル非依存型XAI技術は医療XAIソリューションに頻繁に用いられている。
• 深層学習モデルはこれらのアプリケーションで他の機械学習モデルより多く使用されている。
• 説明可能性は信頼を促進するためにしばしば用いられるが、ループへの医師の参加は相対的に限定的である。
• 視覚的で対話的なユーザーインターフェースは、説明と推奨の理解により有用である。