[论文解读] Meta-learning for skin cancer detection using Deep Learning Techniques

Sara I. Garcia|arXiv (Cornell University)|Apr 21, 2021

Cutaneous Melanoma Detection and Management参考文献 10被引用 6

一句话总结

本研究提出一种元学习方法，利用在 ImageNet 上预训练的 ResNet 模型，通过利用非医学数据的知识来提升在有限医学数据集上的泛化能力，从而改善皮肤癌在皮肤镜图像中的检测效果。该方法结合元学习与一种简单的类别和分布平衡算法，在黑色素瘤检测中实现了 20 分的性能提升，显著降低了验证损失，并提高了 F1 分数和 Jaccard 相似度。

ABSTRACT

This study focuses on automatic skin cancer detection using a Meta-learning approach for dermoscopic images. The aim of this study is to explore the benefits of the generalization of the knowledge extracted from non-medical data in the classification performance of medical data and the impact of the distribution shift problem within limited data by using a simple class and distribution balancer algorithm. In this study, a small sample of a combined dataset from 3 different sources was used to fine-tune a ResNet model pre-trained on non-medical data. The results show an increase in performance on detecting melanoma, malignant (skin cancer), and benign moles with the prior knowledge obtained from images of everyday objects from the ImageNet dataset by 20 points. These findings suggest that features from non-medical images can be used towards the classification of skin moles and that the distribution of the data affects the performance of the model.

研究动机与目标

• 探究来自非医学图像数据（如 ImageNet）的知识是否能提升在小样本医学皮肤镜数据集上的分类性能。
• 通过应用元学习技术，解决医学影像中的数据稀缺性和分布偏移问题。
• 评估类别不平衡与协变量偏移对皮肤癌检测中模型泛化能力的影响。
• 开发并测试一种简单的类别与分布平衡算法，以提升在类别不平衡医学数据上的模型鲁棒性。

提出的方法

• 在来自三个来源的小型合并皮肤镜数据集上微调在 ImageNet 上预训练的 ResNet 模型。
• 为实现迁移学习至皮肤癌分类任务，移除最后的 softmax 和全连接层。
• 应用类别与分布平衡算法，以平衡少数类并对齐训练集与测试集的数据分布。
• 采用分层 k 折交叉验证（3 次迭代）以确保性能评估的可靠性。
• 在有无类别加权的情况下进行训练，以比较不同数据分布条件下模型的行为差异。
• 使用 Jaccard 相似度指数和 F1 分数作为评估指标，以衡量模型性能。

实验结果

研究问题

• RQ1 能否通过使用非医学的 ImageNet 数据进行元学习，来提升在小样本、类别不平衡医学皮肤镜数据集上的分类性能？
• RQ2 训练集与测试集之间的分布偏移如何影响皮肤癌检测中的模型泛化能力？
• RQ3 一种简单的类别与分布平衡算法在多大程度上能缓解因数据不平衡导致的性能下降？
• RQ4 在无关领域数据（如 ImageNet）上进行预训练，是否比随机初始化在皮肤癌分类任务中带来更好的泛化能力？

主要发现

• 使用 ImageNet 预训练权重的元学习方法相比随机初始化，分类性能提升了 20 分，Jaccard 相似度指数达到 47.22。
• 采用类别与分布平衡算法训练的模型相比非加权基线模型，Jaccard 相似度指数显著提升了 5 分。
• 使用平衡算法后，验证准确率提高，验证损失显著降低，表明泛化能力增强且过拟合减少。
• 该模型在使用平衡算法时，F1 分数达到 0.53，表明尽管存在数据稀缺问题，仍能有效识别黑色素瘤病例。
• 结果证实，从无关领域进行元学习可增强泛化能力，尤其在结合分布感知的数据平衡策略时效果更显著。
• 本研究表明，模型对协变量偏移极为敏感，强调在医学元学习中必须解决数据分布不匹配的问题。