[論文レビュー] Designing Explainable AI for Healthcare Reviews: Guidance on Adoption and Trust

Eman Alamoudi, Ellis Solaiman|arXiv (Cornell University)|Feb 11, 2026

Explainable Artificial Intelligence (XAI)被引用数 0

ひとこと要約

要約: 論文は医療レビューを分析するための提案された説明可能AIシステムを評価し、説明が透明な場合に高い有用性と信頼を感じること、層状で聴衆を意識した説明のデザイン指針を示す。

ABSTRACT

Patients increasingly rely on online reviews when choosing healthcare providers, yet the sheer volume of these reviews can hinder effective decision-making. This paper summarises a mixed-methods study aimed at evaluating a proposed explainable AI system that analyses patient reviews and provides transparent explanations for its outputs. The survey (N=60) indicated broad optimism regarding usefulness (82% agreed it saves time; 78% that it highlights essentials), alongside strong demand for explainability (84% considered it important to understand why a review is classified; 82% said explanations would increase trust). Around 45% preferred combined text-and-visual explanations. Thematic analysis of open-ended survey responses revealed core requirements such as accuracy, clarity and simplicity, responsiveness, data credibility, and unbiased processing. In addition, interviews with AI experts provided deeper qualitative insights, highlighting technical considerations and potential challenges for different explanation methods. Drawing on TAM and trust in automation, the findings suggest that high perceived usefulness and transparent explanations promote adoption, whereas complexity and inaccuracy hinder it. This paper contributes actionable design guidance for layered, audience-aware explanations in healthcare review systems.

研究の動機と目的

• 患者がオンラインの大量の医療レビューを閲覧する際のナビゲーション支援の必要性を動機付ける。
• AI支援のレビュー分析における説明性と透明性のユーザー需要を評価する。
• 正確さ、明瞭さ、簡潔さ、応答性、データ信頼性、偏りのない処理の設計要件を特定する。
• 異なる聴衆に合わせた層状の説明の実用的な設計指針を提供する。

提案手法

• 患者向けAIレビューアナリスト プロトタイプを用いた混合研究法を実施。
• 説明の有用性と需要を評価するアンケートを実施（N=60）。
• オープンエンド回答の主題分析を行い核心要件を抽出。
• 専門家インタビューを実施し、説明手法と課題に関する定性的洞察を得る。
• 有用性と説明を自動化への受容と結びつけるため、Technology Acceptance Model（TAM）と信頼の理論を基盤とする。

実験結果

リサーチクエスチョン

• RQ1 患者は医療レビュー用の説明可能AIシステムを有用かつ時間節約につながると感じるか。
• RQ2 ユーザーはAI分類付きの説明と信頼シグナルを評価するか。
• RQ3 正確で明瞭で応答性があり偏りのない説明の核心設計要件は何か。
• RQ4 専門家は異なる説明手法に対して技術的・実践的な課題を何と識別するか。

主な発見

• 回答者の82%がシステムが時間を節約すると同意。
• 78%がシステムがレビューの重要情報を強調すると信じた。
• 84%がAIによってなぜこのレビューが分類されたのかを理解することが重要だと考えた。
• 82%が説明がAI出力への信頼を高めると回答。
• 約45%がテキストとビジュアルを組み合わせた説明フォーマットを好む。