[论文解读] Collaborative Unsupervised Domain Adaptation for Medical Image Diagnosis

Yifan Zhang, Ying Wei+5 more|arXiv (Cornell University)|Nov 17, 2019

Domain Adaptation and Few-Shot Learning被引用 7

一句话总结

该论文提出了一种新型的协同无监督域自适应方法（CoUDA），通过在同级网络之间进行协同学习，联合解决域偏移和标签噪声问题，以实现医学图像诊断。通过利用预测不一致性来识别难以迁移的样本，并引入噪声共适应层以去除预测中的噪声，CoUDA在具有严重类别不平衡和标签噪声的真实世界医学影像数据集上实现了87.75%的准确率，优于现有最先进方法。

ABSTRACT

Deep learning based medical image diagnosis has shown great potential in clinical medicine. However, it often suffers two major difficulties in practice: 1) only limited labeled samples are available due to expensive annotation costs over medical images; 2) labeled images may contain considerable label noises (e.g., mislabeling labels) due to diagnostic difficulties. In this paper, we seek to exploit rich labeled data from relevant domains to help the learning in the target task with unsupervised domain adaptation (UDA). Unlike most existing UDA methods which rely on clean labeled data or assume samples are equally transferable, we propose a novel Collaborative Unsupervised Domain Adaptation algorithm to conduct transferability-aware domain adaptation and conquer label noise in a cooperative way. Promising empirical results verify the superiority of the proposed method.

研究动机与目标

• 为解决医学图像诊断中标签数据稀缺且常含噪声时面临的域偏移与标签噪声双重挑战。
• 通过认识到并非所有样本在异质医学影像领域中都具有同等可迁移性，改进无监督域自适应（UDA）方法。
• 开发一种协同学习框架，利用同级网络之间的预测不一致性，优先处理难以迁移的样本，从而提升模型鲁棒性。
• 通过共享的噪声共适应层，利用多个含噪声视图的预测结果，对源数据中的标签噪声进行有效缓解。
• 在具有严重类别不平衡和噪声标注的真实世界医学影像任务中，实现更优的诊断性能。

提出的方法

• CoUDA采用两个共享特征提取器与分类器的同级网络，最终推理时对预测结果进行平均。
• 通过计算 $\lambda = 1 - \cos(\hat{y}_1, \hat{y}_2)$ 得到可迁移性感知权重，其中 $\hat{y}_1$ 和 $\hat{y}_2$ 分别为两个网络的预测概率，基于预测不一致性识别难以迁移的样本。
• 将这些权重应用于域对抗损失 $\mathcal{L}^{adv}$，以更有效地对齐域分布，最小化对困难样本的域差异。
• 引入噪声共适应层（NCL），在类别条件噪声假设下，通过聚合多个同级网络的预测并适应到噪声标签，实现预测去噪。
• 使用多样性正则化损失 $\mathcal{L}^{dis}$，以鼓励同级网络之间形成不同的决策边界，增强集体智能。
• 整体训练目标结合分类损失 $\mathcal{L}^c$、对抗损失 $\mathcal{L}^{adv}$、多样性损失 $\mathcal{L}^{dis}$ 以及噪声共适应层，联合优化准确率、域对齐与噪声鲁棒性。

实验结果

研究问题

• RQ1 通过检测并优先处理难以迁移的样本，同级网络之间的协同学习是否能提升医学图像诊断中的域自适应性能？
• RQ2 在无清洁标签依赖的前提下，如何在无监督域自适应过程中有效缓解源数据中的标签噪声？
• RQ3 在存在域偏移与标签噪声的情况下，强制同级网络之间保持多样性是否能增强最终模型的鲁棒性与泛化能力？
• RQ4 在具有类别不平衡与噪声标注的真实世界医学影像基准上，所提方法相较于现有UDA与弱监督学习方法，性能提升程度如何？
• RQ5 在异质医学影像数据中，可迁移性感知加权机制是否比均匀加权更有效？

主要发现

• CoUDA在测试集上达到87.75%的准确率，显著优于次优方法（MCD为81.77%），在真实世界医学影像数据中展现出强大鲁棒性。
• 消融实验证实，噪声共适应层（NCL）与可迁移性感知对抗损失 ($\mathcal{L}^{adv}$) 是最关键组件，二者结合使准确率提升超过5%。
• 若移除噪声共适应层，准确率下降至82.94%，凸显其在缓解源域中噪声标签影响方面的重要作用。
• 仅使用单个同级网络并仅依赖分类损失时，准确率仅为68.92%，凸显协同框架的必要性。
• 多样性正则化损失 $\mathcal{L}^{dis}$ 显著提升性能，当其被加入完整模型后，准确率从85.54%提升至87.75%。
• CoUDA能有效应对严重类别不平衡与标签噪声，表现为高宏平均F1值（87.22%）以及各类别间均衡的精确率与召回率。