[论文解读] Highly Efficient Representation and Active Learning Framework for Imbalanced Data and its Application to COVID-19 X-Ray Classification

Heng Hao, Sima Didari+3 more|arXiv (Cornell University)|Feb 24, 2021

COVID-19 diagnosis using AI参考文献 41被引用 4

一句话总结

本文提出了一种数据与标签高效的数据集框架，用于分类不平衡的胸部X光片，结合了自监督表征学习与基于高斯过程的主动学习。通过利用无监督特征学习与不确定性感知的预测，该方法仅使用约10%的标注数据即实现了最先进性能，在COVID-19 X光片分类任务中比先前模型高出4%。

ABSTRACT

We propose a highly data-efficient classification and active learning framework for classifying chest X-rays. It is based on (1) unsupervised representation learning of a Convolutional Neural Network and (2) the Gaussian Process method. The unsupervised representation learning employs self-supervision that does not require class labels, and the learned features are proven to achieve label-efficient classification. GP is a kernel-based Bayesian approach that also leads to data-efficient predictions with the added benefit of estimating each decision's uncertainty. Our novel framework combines these two elements in sequence to achieve highly data and label efficient classifications. Moreover, both elements are less sensitive to the prevalent and challenging class imbalance issue, thanks to the (1) feature learned without labels and (2) the Bayesian nature of GP. The GP-provided uncertainty estimates enable active learning by ranking samples based on the uncertainty and selectively labeling samples showing higher uncertainty. We apply this novel combination to the data-deficient and severely imbalanced case of COVID-19 chest X-ray classification. We demonstrate that only $\sim 10\%$ of the labeled data is needed to reach the accuracy from training all available labels. Its application to the COVID-19 data in a fully supervised classification scenario shows that our model, with a generic ResNet backbone, outperforms (COVID-19 case by 4\%) the state-of-the-art model with a highly tuned architecture. Our model architecture and proposed framework are general and straightforward to apply to a broader class of datasets, with expected success.

研究动机与目标

• 解决COVID-19 X光片分类中数据稀缺与严重类别不平衡的挑战。
• 通过利用自监督，开发一种仅需极少标注数据的表征学习方法。
• 通过高斯过程实现不确定性估计，以支持主动学习，优先选择信息量大的样本。
• 在保持高分类准确率的同时，降低对大规模标注数据集的依赖。
• 创建一种可泛化的框架，适用于其他类别不平衡的医学影像任务。

提出的方法

• 通过在无类别标签的情况下对胸部X光片进行对比预训练，利用自监督表征学习。
• 使用预训练的ResNet主干网络以无监督方式从X光片中提取深层特征。
• 应用高斯过程分类器进行预测并估计不确定性，从而支持基于不确定性的主动学习。
• 根据不确定性对未标注样本进行排序，并在迭代标注过程中选择最不确定的样本进行人工标注。
• 将无监督特征提取器与GP分类器以顺序流水线方式结合，以提升数据效率。
• 利用GP的贝叶斯特性与与标签无关的特征学习，降低对类别不平衡的敏感性。

实验结果

研究问题

• RQ1 自监督表征学习是否能显著减少胸部X光片分类对标注数据的需求？
• RQ2 通过高斯过程进行不确定性估计，如何提升在类别不平衡数据集上的主动学习性能？
• RQ3 在标注数据有限的情况下，使用自监督特征的预训练CNN在多大程度上优于完全监督的模型？
• RQ4 自监督学习与基于GP的主动学习相结合，能否缓解医学影像中类别不平衡的影响？
• RQ5 该框架是否能泛化到其他数据稀缺、类别不平衡的医学图像分类任务？

主要发现

• 所提出的框架仅使用约10%的标注数据，即可实现与完全监督训练相当的性能。
• 采用通用的ResNet主干网络，该模型在COVID-19 X光片分类任务中比最先进模型高出4%。
• 由于无标签特征学习与贝叶斯不确定性估计，该方法对类别不平衡表现出强鲁棒性。
• 基于GP不确定性的主动学习能有效优先选择信息量大的样本，从而减少标注工作量。
• 即使标注数据有限，该框架仍能保持高准确率，凸显其数据效率。
• 该方法具有良好的泛化能力，且易于适应其他具有类似挑战的医学影像数据集。