[论文解读] Explainable, Domain-Adaptive, and Federated Artificial Intelligence in Medicine

Ahmad Chaddad, Qizong lu+6 more|arXiv (Cornell University)|Nov 17, 2022

Radiomics and Machine Learning in Medical Imaging被引用 4

一句话总结

本文提出了一种统一框架，整合可解释人工智能（XAI）、域适应和联邦学习，以解决医疗人工智能中的关键挑战：模型可解释性、成像系统间的域偏移以及数据隐私问题。通过结合事后可解释性、域不变表示学习和去中心化模型训练，该方法实现了临床环境中可信、可泛化且保护隐私的人工智能。

ABSTRACT

Artificial intelligence (AI) continues to transform data analysis in many domains. Progress in each domain is driven by a growing body of annotated data, increased computational resources, and technological innovations. In medicine, the sensitivity of the data, the complexity of the tasks, the potentially high stakes, and a requirement of accountability give rise to a particular set of challenges. In this review, we focus on three key methodological approaches that address some of the particular challenges in AI-driven medical decision making. (1) Explainable AI aims to produce a human-interpretable justification for each output. Such models increase confidence if the results appear plausible and match the clinicians expectations. However, the absence of a plausible explanation does not imply an inaccurate model. Especially in highly non-linear, complex models that are tuned to maximize accuracy, such interpretable representations only reflect a small portion of the justification. (2) Domain adaptation and transfer learning enable AI models to be trained and applied across multiple domains. For example, a classification task based on images acquired on different acquisition hardware. (3) Federated learning enables learning large-scale models without exposing sensitive personal health information. Unlike centralized AI learning, where the centralized learning machine has access to the entire training data, the federated learning process iteratively updates models across multiple sites by exchanging only parameter updates, not personal health data. This narrative review covers the basic concepts, highlights relevant corner-stone and state-of-the-art research in the field, and discusses perspectives.

研究动机与目标

• 通过可解释人工智能（XAI）技术增强模型可解释性，以解决临床医生对黑箱AI模型的不信任问题。
• 克服因扫描仪、协议和医疗机构差异导致的医学影像中域偏移所引起的性能下降问题。
• 在不共享敏感患者数据的前提下，实现多个医疗机构间的协作模型训练，确保符合数据隐私法规要求。
• 将XAI、域适应和联邦学习整合为一个连贯的流水线，以支持人工智能系统在临床环境中的实际部署。
• 提升深度学习模型在异构、多机构医学影像环境中的可靠性和泛化能力。

提出的方法

• 采用事后可解释性方法（如类激活映射，CAM）生成显著性图，突出显示影响模型预测的医学图像区域。
• 应用基于特征的域适应技术，包括对抗性训练，以对齐源域（训练域）和目标域（部署域）之间的特征分布。
• 实施水平联邦学习，通过聚合本地模型更新在多个机构间训练全局模型，同时保持原始患者数据的本地化。
• 使用集中式聚合服务器，仅通过模型参数（而非原始数据）迭代更新全局模型，从而保护数据隐私。
• 在联邦学习流水线中集成域适应，以减少因成像协议和设备差异导致的机构间域偏移。
• 将XAI与联邦学习及域自适应模型相结合，实现临床决策支持中可解释、可泛化且保护隐私的预测。

实验结果

研究问题

• RQ1 可解释人工智能技术在多大程度上能提升临床医生对用于医学图像分析的深度学习模型的信任？
• RQ2 域适应技术在多大程度上能减少在成像协议不同的不同成像站点部署医学AI模型时的性能下降？
• RQ3 联邦学习是否能够在不暴露敏感患者数据的前提下，实现多个医疗机构间的有效模型训练？
• RQ4 在临床人工智能应用中，结合XAI、域适应和联邦学习面临哪些关键挑战？
• RQ5 如何将这三种方法整合为单一流水线，以支持医学领域中稳健、可泛化且保护隐私的人工智能？

主要发现

• 事后可解释性方法（如CAM）可通过突出显示影响预测的图像区域提供局部可解释性，但无法揭示复杂模型内部的决策逻辑。
• 对抗性域适应方法在减少域偏移和提升模型在不同成像域间的泛化能力方面表现出强劲性能。
• 联邦学习能够在不共享原始数据的前提下实现机构间的协作模型训练，保护患者隐私并符合数据保护法规。
• 尽管已有进展，联邦学习在医疗领域的应用仍显不足，多数研究集中于水平联邦学习，且性能与集中式训练相比仍有较大差距。
• 机构间的数据异质性、标签不一致性以及数据质量差等问题仍是阻碍联邦学习和域自适应模型性能与可靠性的主要挑战。
• 整合XAI、域适应和联邦学习的统一框架对于构建临床实践中可信、可泛化且保护隐私的人工智能系统至关重要。