[論文レビュー] Dermatologist-like explainable AI enhances trust and confidence in diagnosing melanoma

Tirtha Chanda, Katja Hauser+33 more|arXiv (Cornell University)|Mar 17, 2023

Explainable Artificial Intelligence (XAI)被引用数 5

ひとこと要約

本研究では、皮膚科医に似た説明可能なAI（XAI）システムを構築し、黒色腫の診断に対して局所的で分野特化型のテキストおよび視覚的説明を生成する。従来のAIと比較して、皮膚科医の信頼性と診断の自信が顕著に向上した。このシステムは臨床医の推論と整合性を高め、診断精度において数値的には向上したが、有意差は認められなかった。

ABSTRACT

Although artificial intelligence (AI) systems have been shown to improve the accuracy of initial melanoma diagnosis, the lack of transparency in how these systems identify melanoma poses severe obstacles to user acceptance. Explainable artificial intelligence (XAI) methods can help to increase transparency, but most XAI methods are unable to produce precisely located domain-specific explanations, making the explanations difficult to interpret. Moreover, the impact of XAI methods on dermatologists has not yet been evaluated. Extending on two existing classifiers, we developed an XAI system that produces text and region based explanations that are easily interpretable by dermatologists alongside its differential diagnoses of melanomas and nevi. To evaluate this system, we conducted a three-part reader study to assess its impact on clinicians' diagnostic accuracy, confidence, and trust in the XAI-support. We showed that our XAI's explanations were highly aligned with clinicians' explanations and that both the clinicians' trust in the support system and their confidence in their diagnoses were significantly increased when using our XAI compared to using a conventional AI system. The clinicians' diagnostic accuracy was numerically, albeit not significantly, increased. This work demonstrates that clinicians are willing to adopt such an XAI system, motivating their future use in the clinic.

研究の動機と目的

• AIを用いた黒色腫診断における透明性の欠如が臨床的受容を妨げているという問題に対処すること。
• 皮膚科医の臨床的推論と整合する解釈可能な局所的説明を提供するXAIシステムの開発。
• このようなXAIが臨床医の診断精度、自信、AI支援への信頼に与える影響の評価。
• AIの解釈可能性と皮膚科分野における実臨床意思決定のギャップを埋めること。

提案手法

• 既存の2つの深層学習分類器を拡張し、領域ベースの注目マップと自然言語による説明を両方生成するようにした。
• 皮膚腫瘍診断に関連する皮膚科的特徴（例：非対称性、縁の不規則性、色の変化）を反映するように説明を設計した。
• 差分診断（黒色腫対ネビス）と、主要特徴の解釈可能なテキスト記述を同時に生成する二重出力機構を統合した。
• 専門皮膚科医によるアノテーションと照合することで、モデルの説明の臨床的妥当性と整合性を検証した。
• 皮膚科医を対象とした3段階のリーダースタディを実施し、診断パフォーマンス、自信、XAIシステムへの信頼性を評価した。

実験結果

リサーチクエスチョン

• RQ1 XAIシステムは、皮膚科医の黒色腫診断における臨床的推論と密接に一致する説明を生成できるか？
• RQ2 皮膚科医に似た説明を提供することで、臨床医のAI診断支援への信頼が向上するか？
• RQ3 XAIは、従来のAIと比較して、皮膚科医の診断の自信をどの程度向上させるか？
• RQ4 XAIの使用は、皮膚科医の診断精度に測定可能な改善をもたらすか？

主な発見

• XAIシステムの説明は、皮膚科医自身の説明と高い一致を示し、強い臨床的関連性を示した。
• 皮膚科医は、XAIを用いた際、従来のAIと比較して、AI支援システムへの信頼性を顕著に高めたと報告した。
• XAIシステムを用いた際、診断精度の向上が有意差を示さなかったものの、臨床医の診断の自信は顕著に向上した。
• XAIの使用により診断精度に数値的な改善が見られたが、研究被験者全体では有意差は認められなかった。