[论文解读] Data Augmentation with Manifold Exploring Geometric Transformations for Increased Performance and Robustness

Magdalini Paschali, Walter Simson+5 more|arXiv (Cornell University)|Jan 14, 2019

AI in cancer detection参考文献 18被引用 13

一句话总结

本文提出 ManiFool 增强方法，一种利用流形探索几何变换的数据增强技术，可提升医学影像中深度学习模型的性能与鲁棒性。通过迭代应用优化的仿射变换，使图像逐步逼近决策边界，同时保持类别流形的结构，该方法生成多样化且靠近边界的训练样本，从而在皮肤病变与乳腺X光片分类任务中实现最先进准确率，并显著提升鲁棒性。

ABSTRACT

In this paper we propose a novel augmentation technique that improves not only the performance of deep neural networks on clean test data, but also significantly increases their robustness to random transformations, both affine and projective. Inspired by ManiFool, the augmentation is performed by a line-search manifold-exploration method that learns affine geometric transformations that lead to the misclassification on an image, while ensuring that it remains on the same manifold as the training data. This augmentation method populates any training dataset with images that lie on the border of the manifolds between two-classes and maximizes the variance the network is exposed to during training. Our method was thoroughly evaluated on the challenging tasks of fine-grained skin lesion classification from limited data, and breast tumor classification of mammograms. Compared with traditional augmentation methods, and with images synthesized by Generative Adversarial Networks our method not only achieves state-of-the-art performance but also significantly improves the network's robustness.

研究动机与目标

• 解决医学影像数据集规模有限、变异度高的挑战，以改善深度学习模型的泛化能力与鲁棒性。
• 在保持测试集干净数据性能的同时，提升模型对随机仿射与投影变换的鲁棒性。
• 基于原始样本与变换样本之间的测地距离，构建分类器的可量化鲁棒性度量。
• 通过训练于充分探索类别流形全貌的增强样本，提升模型在不同数据集间的泛化能力。
• 对不同架构与数据集上的模型鲁棒性进行系统性评估，揭示此前未被测量的性能差异。

提出的方法

• 采用受 ManiFool 启发的线搜索流形探索算法，生成能使图像误分类但保持在原始类别流形上的仿射几何变换。
• 迭代应用沿最大化误分类方向的变换，每步后将结果投影回训练数据流形。
• 当发生误分类时，回溯至原始类别流形上最后一个有效点，并使用该变换样本进行数据增强。
• 确保增强样本源自真实数据流形，避免分布偏移，同时保留类别特异性嵌入学习能力。
• 使用原始样本与变换样本之间的测地距离作为可量化鲁棒性度量，通过公式 8 计算。
• 通过随机变换评估不同测地距离（G）下的鲁棒性，以误分类率作为主要鲁棒性指标（公式 9）。

实验结果

研究问题

• RQ1 流形探索几何变换能否提升医学影像中深度学习模型在干净测试数据上的性能？
• RQ2 与传统方法及基于 GAN 的增强相比，ManiFool 增强方法在提升模型对随机仿射与投影变换鲁棒性方面达到何种程度？
• RQ3 该方法对跨数据集泛化能力有何影响，特别是在未见数据集（如 HAM10000）上测试时？
• RQ4 基于测地距离的可量化鲁棒性度量能否有效捕捉并比较不同深度学习架构的鲁棒性？
• RQ5 模型的鲁棒性在不同医学影像数据集间是否存在显著差异？该差异能否被量化并用于模型选择？

主要发现

• 使用 ManiFool 增强训练的模型在 Dermofit 与 DDSM 数据集上达到最先进性能，优于传统增强与基于 GAN 的生成方法。
• 对随机几何变换的鲁棒性显著提升，ManiFool 训练的模型在高测地距离（G ≥ 5）下误分类率较基线降低 15–30%。
• 在跨数据集评估中，使用 ManiFool 增强训练的模型在未见 HAM10000 数据集上部署时准确率提高 1–5%，表明泛化能力增强。
• 所提出的鲁棒性度量（测地距离）揭示了不同架构与数据集间鲁棒性的显著差异——例如，InceptionV3 在 Dermofit 上最鲁棒，而 ResNet18 在 DDSM 上表现最佳。
• ManiFool 增强生成的样本探索了类别流形的全局边界，而随机增强则局限于局部区域，从而带来更好的模型泛化能力。
• 该方法有效增加了训练数据的多样性暴露，同时未引入分布偏移，性能提升与鲁棒性增强的一致性已得到验证。