[论文解读] Skin Lesion Diagnosis using Ensembles, Unscaled Multi-Crop Evaluation and Loss Weighting

Nils Gessert, Thilo Sentker+6 more|arXiv (Cornell University)|Aug 5, 2018

Cutaneous Melanoma Detection and Management参考文献 16被引用 65

一句话总结

该论文通过未缩放多裁剪评估和损失加权，构建一个预训练CNN的集成，以解决ISIC 2018皮肤病变诊断中的类别不平衡，并实现高加权准确率（WACC）。

ABSTRACT

In this paper we present the methods of our submission to the ISIC 2018 challenge for skin lesion diagnosis (Task 3). The dataset consists of 10000 images with seven image-level classes to be distinguished by an automated algorithm. We employ an ensemble of convolutional neural networks for this task. In particular, we fine-tune pretrained state-of-the-art deep learning models such as Densenet, SENet and ResNeXt. We identify heavy class imbalance as a key problem for this challenge and consider multiple balancing approaches such as loss weighting and balanced batch sampling. Another important feature of our pipeline is the use of a vast amount of unscaled crops for evaluation. Last, we consider meta learning approaches for the final predictions. Our team placed second at the challenge while being the best approach using only publicly available data.

研究动机与目标

• 解决皮肤病变分类中严重类别不平衡问题（HAM10000和ISIC数据集）。
• 开发一个用于七类病变诊断的预训练CNN集成模型。
• 评估未缩放多裁剪评估和损失加权以提升性能。
• 在元学习中对来自多个模型的最终预测进行细化。

提出的方法

• 在HAM和ISIC数据上微调预训练CNN（DenseNet、SENet、ResNeXt等）。
• 尝试基于逆类别频率的损失加权以平衡类别。
• 对每张图像进行未缩放的224x224裁剪和36裁剪评估以进行预测聚合。
• 对36裁剪的预测在元学习（径向基核SVM）下用于CV模型。
• 通过平均融合（并比较投票）将CV模型与全量训练模型的预测进行组合。
• 基于5折CV性能，从顶尖架构中选择最终集成模型。

实验结果

研究问题

• RQ1 严重类别不平衡如何影响七类皮肤病变诊断的性能？
• RQ2 是否可以通过未缩放多裁剪评估的状态-of-the-art CNN集成来改善ISIC 2018任务的加权准确率（WACC）？
• RQ3 损失加权、平衡批次和元学习对最终预测有何影响？
• RQ4 通过平均融合将CV模型与全量训练模型的结果进行组合是否比其他融合方法得到更好的结果？

主要发现

• 在测试方法中，集成获得了最佳WACC，最终集成的WACC为0.851。
• 在单模型中，SENet154在某设置下的WACC表现最佳（0.817）。
• 将ISIC数据并入HAM训练提升了某些模型（例如DenseNet121结合ISIC达到WACC 0.804）。
• 36裁剪评估结合元学习在多种架构上相较单裁剪或非元学习方法带来提升。
• 更新的体系结构（DenseNet、ResNeXt、PolyNet、SENets）优于Inception/ResNet变体等基线。
• 最终集成由54个模型组成，且实现了最佳整体性能。