[论文解读] Deep Learning Based Decision Support for Medicine -- A Case Study on Skin Cancer Diagnosis

Adriano Lucieri, Andreas Dengel+1 more|arXiv (Cornell University)|Mar 2, 2021

Cutaneous Melanoma Detection and Management被引用 4

一句话总结

本文综述了用于皮肤癌诊断的可解释深度学习（XAI）方法，重点关注皮肤镜和组织病理学图像分析。研究提出，未来的决策支持系统（DSS）必须整合多模态解释——结合局部与全局可解释性及干预能力——以超越当前对视觉显著图和皮肤镜特征定位的依赖，从而增强临床信任度与可用性。

ABSTRACT

Early detection of skin cancers like melanoma is crucial to ensure high chances of survival for patients. Clinical application of Deep Learning (DL)-based Decision Support Systems (DSS) for skin cancer screening has the potential to improve the quality of patient care. The majority of work in the medical AI community focuses on a diagnosis setting that is mainly relevant for autonomous operation. Practical decision support should, however, go beyond plain diagnosis and provide explanations. This paper provides an overview of works towards explainable, DL-based decision support in medical applications with the example of skin cancer diagnosis from clinical, dermoscopic and histopathologic images. Analysis reveals that comparably little attention is payed to the explanation of histopathologic skin images and that current work is dominated by visual relevance maps as well as dermoscopic feature identification. We conclude that future work should focus on meeting the stakeholder's cognitive concepts, providing exhaustive explanations that combine global and local approaches and leverage diverse modalities. Moreover, the possibility to intervene and guide models in case of misbehaviour is identified as a major step towards successful deployment of AI as DL-based DSS and beyond.

研究动机与目标

• 评估可解释深度学习（XAI）在皮肤癌诊断医疗决策支持系统（DSS）中的当前发展状况。
• 识别解释方法中的缺口，特别是与皮肤镜和临床图像相比，组织病理学图像的解释研究仍显不足。
• 提出一个临床实用的DSS框架，整合多种成像模态下的局部与全局解释。
• 强调干预机制（如干预性主动学习）的重要性，以纠正模型行为并整合专家知识。
• 倡导与临床医生认知模型相一致的可解释性方法，以支持信任、透明度和可重复性，推动人工智能辅助皮肤科的发展。

提出的方法

• 将现有皮肤病变分类中的XAI方法划分为四类非排他性类别：视觉显著性定位、皮肤镜特征预测/定位、相似性检索以及干预。
• 回顾并分析了88篇与皮肤科XAI相关的研究，重点关注其在视觉显著图、特征识别和基于检索的解释方面的应用。
• 提出整合全局解释技术（如基于概念的方法和输入空间的数据中心近似）以补充局部解释。
• 引入“干预性主动学习”概念，即临床医生作为导师实时纠正模型的误解，从而提升模型的鲁棒性与临床推理的一致性。
• 鼓励使用多样化数据变换（如频域、色彩空间变换）生成超越空间定位的替代显著性表示。
• 强调无监督概念发现是揭示深度神经网络中隐藏且有意义表征的有前景路径，且无需人工标注。

实验结果

研究问题

• RQ1 为何基于深度学习的决策支持系统（DSS）在皮肤科临床部署中需要可解释性？
• RQ2 当前基于深度学习的皮肤病变分类中，主流的解释技术有哪些？它们在不同成像模态中如何差异？
• RQ3 为何尽管组织病理学图像在皮肤癌诊断中被视为金标准，其解释研究却相对较少受到关注？
• RQ4 如何结合全局与局部解释方法以提升模型透明度和用户信任？
• RQ5 干预机制——尤其是干预性主动学习——在纠正模型行为和整合专家知识方面发挥何种作用？

主要发现

• 当前皮肤癌诊断中可解释人工智能的研究主要依赖视觉显著图和皮肤镜特征定位，对组织病理学图像解释的关注有限。
• 尽管全切片图像（WSIs）作为皮肤病变诊断的金标准，其解释方法仍发展不足。
• 大多数现有XAI方法集中于局部解释，而全局解释（如基于概念的方法或输入空间的数据中心近似）仍较为罕见且研究不足。
• 干预机制（如干预性主动学习）被识别为纠正模型错误、实现专家反馈的关键，从而提升模型可靠性与临床一致性。
• 跨模态（临床、皮肤镜、组织病理学）整合多种解释技术可增强解释的完整性，并通过跨模态一致性实现验证。
• 无监督概念发现方法在揭示深度网络所学习到的有意义且人类可解释的表征方面展现出潜力，即使在无显式标注的情况下亦可实现。