[论文解读] RECOD Titans at ISIC Challenge 2017

Afonso Menegola, Julia Tavares+4 more|arXiv (Cornell University)|Mar 14, 2017

Cutaneous Melanoma Detection and Management参考文献 9被引用 86

一句话总结

本文记录 RECOD Titans 在 ISIC 2017 的参与：Part 1 使用基于 U-net 的分割基线并进行迁移学习；Part 3 使用深度模型进行黑色素瘤分类，广泛的数据收集、增强和模型集成，官方验证 AUC 为 0.793。

ABSTRACT

This extended abstract describes the participation of RECOD Titans in parts 1 and 3 of the ISIC Challenge 2017 "Skin Lesion Analysis Towards Melanoma Detection" (ISBI 2017). Although our team has a long experience with melanoma classification, the ISIC Challenge 2017 was the very first time we worked on skin-lesion segmentation. For part 1 (segmentation), our final submission used four of our models: two trained with all 2000 samples, without a validation split, for 250 and for 500 epochs respectively; and other two trained and validated with two different 1600/400 splits, for 220 epochs. Those four models, individually, achieved between 0.780 and 0.783 official validation scores. Our final submission averaged the output of those four models achieved a score of 0.793. For part 3 (classification), the submitted test run as well as our last official validation run were the result from a meta-model that assembled seven base deep-learning models: three based on Inception-V4 trained on our largest dataset; three based on Inception trained on our smallest dataset; and one based on ResNet-101 trained on our smaller dataset. The results of those component models were stacked in a meta-learning layer based on an SVM trained on the validation set of our largest dataset.

研究动机与目标

• 通过深度学习在数据稀缺的医疗环境中激励黑色素瘤/皮肤病变分类。
• 描述 ISIC Challenge 2017 的 Part 1（分割）和 Part 3（分类）贡献。
• 展示迁移学习、数据增强和集成如何提升性能。

提出的方法

• Part 1 使用类似 U-net 的分割网络作为基线，结合公开数据集和在线增强。
• 从 ImageNet 预训练网络（基于 VGG-16）进行迁移学习，Dice 损失，Adam 优化器，以及地真掩模预处理。
• 对多种网络架构（基于 VGG、U-net 变体、批量归一化）和模型集成进行实验，以最大化官方验证分数。

实验结果

研究问题

• RQ1 从大规模图像数据集进行的迁移学习如何影响皮肤病变分割和分类性能？
• RQ2 哪些数据增强和归一化策略最能提升黑色素瘤任务的分割准确度和分类 AUC？
• RQ3 集成/元学习方法是否能在 ISIC 2017 任务中超越单一模型？
• RQ4 数据集组成和去重对内部与官方验证性能有何影响？

主要发现

• 最终 Part 1 提交在单个模型上的官方验证分数介于 0.780 与 0.783 之间，平均集成分数为 0.793。
• 更深的模型结合更大的数据集和增强实现了最佳性能；每图像归一化在某些模型中带来提升。
• 用元学习 SVM 的堆叠模型通常优于单模型预测。
• 使用半部署和部署数据集，加上积极的元学习集成，产生了最佳官方验证 AUC。
• 若干探索的想法（例如更大分辨率、复杂加权、课程学习）在时间约束下未能提升性能。