[论文解读] General Purpose (GenP) Bioimage Ensemble of Handcrafted and Learned Features with Data Augmentation

Loris Nanni, Sheryl Brahnam+2 more|arXiv (Cornell University)|Apr 17, 2019

Image Processing Techniques and Applications参考文献 80被引用 17

一句话总结

本文提出了一种通用型（GenP）生物图像集成方法，结合手工设计特征、通过卷积神经网络（CNN）的深度学习以及基于主成分分析（PCA）/离散余弦变换（DCT）的数据增强方法，在生物图像分类任务中实现了最先进（SOTA）的性能表现。通过将多样化的描述符与支持向量机（SVM）集成模型及CNN集成模型相结合，并应用新颖的数据增强技术，该方法在无需针对特定数据集进行超参数调优的情况下实现了高精度，显著降低了过拟合风险。

ABSTRACT

Bioimage classification plays a crucial role in many biological problems. In this work, we present a new General Purpose (GenP) ensemble that boosts performance by combining local features, dense sampling features, and deep learning approaches. First, we introduce three new methods for data augmentation based on PCA/DCT; second, we show that different data augmentation approaches can boost the performance of an ensemble of CNNs; and, finally, we propose a set of handcrafted/learned descriptors that are highly generalizable. Each handcrafted descriptor is used to train a different Support Vector Machine (SVM), and the different SVMs are combined with the ensemble of CNNs. Our method is evaluated on a diverse set of bioimage classification problems. Results demonstrate that the proposed GenP bioimage ensemble obtains state-of-the-art performance without any ad-hoc dataset tuning of parameters (thus avoiding the risk of overfitting/overtraining).

研究动机与目标

• 开发一种通用的生物图像分类框架，避免针对特定数据集进行超参数调优。
• 通过结合手工设计特征与深度学习模型，提升分类性能。
• 提出基于主成分分析（PCA）和离散余弦变换（DCT）的新型数据增强技术，以增强模型的鲁棒性。
• 构建一套高度通用的特征描述符集合，适用于多种生物图像数据集。
• 通过SVM与CNN的集成模型，在多个生物图像基准数据集上展示最先进性能。

提出的方法

• 提出三种基于PCA和DCT的新数据增强方法，以提升训练数据的多样性。
• 采用局部采样与密集采样特征，从生物图像中提取丰富的空间模式。
• 在各个手工设计的描述符上分别训练支持向量机（SVM），以实现稳健的分类。
• 将多个预训练的卷积神经网络（CNN）集成，以提升泛化能力与预测精度。
• 在集成框架内，通过早期或晚期融合策略整合手工特征与深度特征。
• 在多个生物图像数据集上应用该集成方法，且无需任何针对特定数据集的超参数调优。

实验结果

研究问题

• RQ1 统一的集成模型（结合手工设计特征与学习特征）是否能在多种数据集上提升生物图像分类性能？
• RQ2 基于PCA和DCT的数据增强技术如何提升生物图像分类器的泛化能力？
• RQ3 将多个基于不同手工描述符训练的SVM与CNN集成模型相结合，是否能获得优于单一模型的性能表现？
• RQ4 在应用于未见过的生物图像数据集时，通用型方法在多大程度上可避免过拟合？
• RQ5 各组成部分（手工特征、学习特征、增强数据）对整体性能提升的贡献分别是什么？

主要发现

• GenP集成模型在多个生物图像分类基准上实现了最先进性能，且无需任何针对特定数据集的超参数调优。
• 所提出的基于PCA/DCT的数据增强方法显著提升了模型的泛化能力，并减少了过拟合现象。
• 在集成框架中结合手工描述符与深度CNN模型，其分类精度显著高于单一模型。
• 集成模型中的每个组成部分——SVM、CNN以及数据增强——均对最终性能提升有显著贡献。
• 该方法在多种生物图像类型（包括显微成像与组织病理学图像）中均表现出强大的泛化能力。
• 由于无需针对特定数据集进行调优，该方法在保持高预测精度的同时，显著降低了过拟合风险。