[论文解读] Deep Co-Training for Semi-Supervised Image Recognition

Siyuan Qiao, Wei Shen+3 more|arXiv (Cornell University)|Mar 15, 2018

Adversarial Robustness in Machine Learning参考文献 41被引用 26

一句话总结

本文提出深度协同训练（DCT），一种半监督图像识别方法，通过在深度学习中利用多个神经网络作为互补视图，将协同训练框架扩展至深度神经网络。通过对抗性样本强制实现视图多样性，防止模型崩溃，显著提升了在SVHN、CIFAR-10/100和ImageNet上的准确率，超越了先前的最先进方法。

ABSTRACT

In this paper, we study the problem of semi-supervised image recognition, which is to learn classifiers using both labeled and unlabeled images. We present Deep Co-Training, a deep learning based method inspired by the Co-Training framework. The original Co-Training learns two classifiers on two views which are data from different sources that describe the same instances. To extend this concept to deep learning, Deep Co-Training trains multiple deep neural networks to be the different views and exploits adversarial examples to encourage view difference, in order to prevent the networks from collapsing into each other. As a result, the co-trained networks provide different and complementary information about the data, which is necessary for the Co-Training framework to achieve good results. We test our method on SVHN, CIFAR-10/100 and ImageNet datasets, and our method outperforms the previous state-of-the-art methods by a large margin.

研究动机与目标

• 将协同训练框架扩展至深度学习，用于半监督图像识别。
• 解决双视图训练中模型崩溃的问题，即网络收敛到相同预测结果。
• 确保多个深度网络在未标记数据上提供互补且多样的预测结果。
• 开发一种可扩展的、端到端可微的方法，结合协同训练假设与视图差异约束。
• 在包括ImageNet在内的基准数据集上展示最先进性能，其中先前的方法未报告结果。

提出的方法

• 该方法训练多个深度神经网络作为不同视图，每个网络从相同的标记数据但不同的数据增强中学习。
• 通过最小化两个网络在未标记数据上的预测结果之间的Jensen-Shannon散度，强制满足协同训练假设。
• 为防止模型崩溃，通过训练每个网络对另一网络生成的对抗性样本具有鲁棒性，引入视图差异约束。
• 利用对抗性样本创建一种数据分布，迫使两个网络做出不同预测，从而确保互补学习。
• 损失函数结合了标记数据上的监督损失和一种协同训练损失，该损失在未标记数据上鼓励一致性和多样性。
• 该框架被扩展至包含2、4和8个视图的多视图设置，保持了可扩展性和性能。

实验结果

研究问题

• RQ1 协同训练框架能否有效扩展至深度神经网络，用于半监督图像识别？
• RQ2 如何防止深度神经网络在协同训练过程中发生预测结果完全相同的问题？
• RQ3 对抗性样本能否作为强制实现视图多样性并提升协同训练泛化能力的机制？
• RQ4 所提出的方法是否在标准基准数据集（包括ImageNet）上实现了最先进性能？
• RQ5 在多视图协同训练中，该方法随着视图数量增加的可扩展性如何？

主要发现

• 在SVHN、CIFAR-10和CIFAR-100上，深度协同训练显著超越了先前的最先进方法。
• 在ImageNet上，该方法实现了显著的准确率提升，而大多数先前的半监督方法未报告在此基准上的结果。
• 利用对抗性样本强制实现视图差异，可减少模型崩溃并提升泛化能力。
• 双视图DCT方法在2、4和8个视图下均表现出色，证明了其可扩展性。
• 该方法在多个数据集上均表现出一致的性能提升，证实了结合协同训练与对抗正则化的有效性。
• 消融实验表明，视图差异约束对性能至关重要，若移除该约束将导致模型崩溃且准确率下降。