[論文レビュー] Explainable Artificial Intelligence Methods in Combating Pandemics: A Systematic Review

Felipe Giuste, Wenqi Shi+7 more|arXiv (Cornell University)|Dec 23, 2021

Artificial Intelligence in Healthcare and Education被引用数 7

ひとこと要約

本系統的レビューでは、COVID-19パンデミック期における説明可能な人工知能（XAI）手法が、AI駆動型診断および意思決定支援システムの透明性、信頼性、臨床的影響を高めるためにどのように使用されたかを評価している。医療画像および電子歴史記録の両分野におけるXAI技術の分析を通じて、説明可能性がモデルの解釈性を向上させ、医師の信頼を支え、誤った相関関係の特定を可能にし、最終的に医療分野におけるAIの実世界での有用性を高めることを示している。

ABSTRACT

Despite the myriad peer-reviewed papers demonstrating novel Artificial Intelligence (AI)-based solutions to COVID-19 challenges during the pandemic, few have made significant clinical impact. The impact of artificial intelligence during the COVID-19 pandemic was greatly limited by lack of model transparency. This systematic review examines the use of Explainable Artificial Intelligence (XAI) during the pandemic and how its use could overcome barriers to real-world success. We find that successful use of XAI can improve model performance, instill trust in the end-user, and provide the value needed to affect user decision-making. We introduce the reader to common XAI techniques, their utility, and specific examples of their application. Evaluation of XAI results is also discussed as an important step to maximize the value of AI-based clinical decision support systems. We illustrate the classical, modern, and potential future trends of XAI to elucidate the evolution of novel XAI techniques. Finally, we provide a checklist of suggestions during the experimental design process supported by recent publications. Common challenges during the implementation of AI solutions are also addressed with specific examples of potential solutions. We hope this review may serve as a guide to improve the clinical impact of future AI-based solutions.

研究の動機と目的

• COVID-19パンデミックに対処するための説明可能なAI（XAI）手法の応用を特定および分析すること。
• XAIが臨床AIシステムにおけるモデルの透明性、医師の信頼性、意思決定プロセスをどのように向上させるかを評価すること。
• AI開発ワークフローへのXAI統合を促進する構造的なチェックリストを提供すること。
• モデルバイアスや解釈不能性といった臨床AI実装における一般的な課題に対して、実用的な解決策を提示すること。
• 特にリスク分類およびパンデミック後ケアを含む、バイオメディカル応用分野におけるXAIの今後の方向性を提示すること。

提案手法

• PRISMA指針に従って系統的文献レビューを実施し、パンデミック関連のAI応用におけるXAIに関する査読付き論文を同定した。
• XAI技術を、後処理による説明手法（例：LIME、Grad-CAM、SHAP）と本質的に解釈可能なモデル（例：決定木、ロジスティック回帰）に分類した。
• 主な臨床データソース（医療画像（レントゲン、CT）、電子的健康記録（EHRs）、臨床的特徴）に沿ってXAIの応用をマッピングした。
• 説明の信頼性と臨床的妥当性を保証するため、定性的（例：人間を含む検証）および定量的指標（例：忠実度、スパarsity、忠実度）を用いてXAIのパフォーマンスを評価した。
• データ品質、特徴量の関連性、説明の評価を重視した、初期段階のAI開発に向けた設計チェックリストに知見を統合した。
• 深層学習の潜在空間を用いたクラスタリングや、画像分類の説明に用いる活性化マップといった、XAI分野の新興トレンドをレビューした。

実験結果

リサーチクエスチョン

• RQ1 パンデミック期に、XAI技術はCOVID-19の検出およびリスク予測を目的としたAIモデルでどのように応用されたか。
• RQ2 臨床現場に非解釈可能なAIモデルを導入するにあたり、主な課題は何か。XAIはその課題をどのように軽減するか。
• RQ3 XAI手法は、AIベースの臨床意思決定支援システムにおける医師の信頼性および意思決定プロセスをどの程度向上させたか。
• RQ4 医療分野におけるXAI説明の質と信頼性を評価するためのフレームワークは、既に存在しているか。
• RQ5 AIモデル開発の初期段階からXAIを統合するにあたり、開発者を支援する設計原則およびチェックリストは何か。

主な発見

• LIME、SHAP、Grad-CAMなどのXAI技術は、モデルの透明性を著しく向上させ、医師が臨床的知識と照合してモデルの意思決定を検証できるようにした。
• 説明可能性の機能を備えたモデルは、ブラックボックスモデルと同等の性能であっても、臨床ワークフローへの採用確率が高かった。
• XAIは、疾患の病態ではなく患者の年齢やスキャナーの型式に依存する誤った相関関係を特定するのを助け、モデルの頑健性を向上させた。
• 忠実度、スパarsityなどの定量的指標に加え、人間を含む定性的な検証を組み合わせたXAIの評価が、説明の信頼性と臨床的妥当性を保証するために不可欠であった。
• XAIを初期段階のAI開発段階で統合することで、臨床的ニーズおよび規制要件との整合性が高まった。
• データ品質、特徴量選択、説明の評価、バイアス検出をカバーする包括的なXAI統合チェックリストが開発され、一般的な落とし穴を回避するのに有効であった。