[論文レビュー] Outlining the Design Space of Explainable Intelligent Systems for Medical Diagnosis

Yao Xie, Ge Gao+1 more|arXiv (Cornell University)|Feb 15, 2019

Explainable Artificial Intelligence (XAI)参考文献 38被引用数 26

ひとこと要約

本論文は、臨床データと照らし合わせて医師がどのように推論するかを模倣する説明のモデル化を通じて、医療診断における説明可能な知能システムのヒューマンセンタードesignフレームワークを提案する。6名の医療専門家とのインタビューに基づき、診断時に医師が多様なデータタイプをどのように優先するかを同定し、技術的透明性よりも臨床的推論の整合性を重視する設計領域を提示する。本研究は、医療分野におけるXAIに実用的洞察を提供する。

ABSTRACT

The adoption of intelligent systems creates opportunities as well as challenges for medical work. On the positive side, intelligent systems have the potential to compute complex data from patients and generate automated diagnosis recommendations for doctors. However, medical professionals often perceive such systems as black boxes and, therefore, feel concerned about relying on system generated results to make decisions. In this paper, we contribute to the ongoing discussion of explainable artificial intelligence (XAI) by exploring the concept of explanation from a human-centered perspective. We hypothesize that medical professionals would perceive a system as explainable if the system was designed to think and act like doctors. We report a preliminary interview study that collected six medical professionals' reflection of how they interact with data for diagnosis and treatment purposes. Our data reveals when and how doctors prioritize among various types of data as a central part of their diagnosis process. Based on these findings, we outline future directions regarding the design of XAI systems in the medical context.

研究の動機と目的

• AI駆動型医療診断における信頼性の課題を解決するため、医師が臨床データをどのように解釈し、優先順位をつけるかを理解すること。
• 医療意思決定の背後にある認知的プロセスを調査し、説明可能なAIシステムの設計に反映すること。
• アルゴリズムの透明性に焦点を当てることなく、医師の推論パターンを模倣するXAIシステムの設計領域を提言すること。
• 診断時に医師が使用する主要なデータタイプと優先順位戦略を同定し、システムの説明設計に反映すること。
• 医療専門家が信頼できると感じるとおり、臨床的に関連性のあるXAIシステムの今後の開発を導くこと。

提案手法

• 診断的推論とデータ優先順位付けに関する探求的インタビューを、6名の医療専門家に対して実施した。
• インタビューのトランスクリプトを分析し、臨床医が異なるデータタイプ（例：検査結果、画像、患者歴）をどのように評価するかの繰り返しパターンを同定した。
• 質的トピック分析を用いて、システム設計に反映可能な臨床的推論の核心的原則を抽出した。
• 医師の認知的ワークフローと整合性を持つ、概念的設計領域を提言した。
• 技術的解釈可能性だけではなく、「医師としての思考と行動」を説明設計の核心的原則として強調した。
• 同定された推論パターンを、臨床的文脈に基づく動的説明の優先順位付けといった、潜在的なシステム行動にマッピングした。

実験結果

リサーチクエスチョン

• RQ1 医師は診断時に、さまざまな臨床的データタイプをどのように優先するか？
• RQ2 複雑な患者データを解釈する際、医師の意思決定の背後にある認知的プロセスは何か？
• RQ3 知能システムは、医師の推論を模倣することで、信頼性と使いやすさをどのように向上させられるか？
• RQ4 臨床的ワークフローにおいて、臨床医にとって最も意味のある説明の形式は何か？
• RQ5 XAIシステムは、医療意思決定の動的かつ文脈依存的な性質をどのように反映する構造を持つべきか？

主な発見

• 医師は臨床的文脈に基づいてデータを優先し、患者歴や症状が、検査結果や画像よりも優先されることが多い。
• 意思決定プロセスは非常に反復的かつ文脈依存的であり、データタイプの継続的再評価が行われる。
• 説明が医師自身の推論プロセスを反映している場合にのみ、信頼性が高まる。
• 臨床医は、技術的モデル出力よりも、診断の差分的推論のような診断的推論経路を反映する説明を好む。
• 一様な静的説明ではなく、臨床的文脈に適応する動的で柔軟な説明が強く好まれる。
• 本研究は、「説明可能性」がモデルの解釈可能性に限定されず、臨床的認知と一致することにあることを明らかにした。