[论文解读] AdCo: Adversarial Contrast for Efficient Learning of Unsupervised Representations from Self-Trained Negative Adversaries

Qianjiang Hu, Xiao Wang+2 more|arXiv (Cornell University)|Nov 17, 2020

Domain Adaptation and Few-Shot Learning参考文献 39被引用 12

一句话总结

AdCo 提出了一种新颖的对比学习框架，通过端到端训练对抗性负样本与表示网络，生成极具挑战性的负样本。通过采用最小最大优化目标，交替优化表示网络与负样本对抗器，AdCo 在 ImageNet 上实现了最先进性能（线性评估下 800 个训练周期后 top-1 准确率达 75.7%），并显著减少了预训练时间和 GPU 成本，相较于 MoCo 及其他基线方法具有优势。

ABSTRACT

Contrastive learning relies on constructing a collection of negative examples that are sufficiently hard to discriminate against positive queries when their representations are self-trained. Existing contrastive learning methods either maintain a queue of negative samples over minibatches while only a small portion of them are updated in an iteration, or only use the other examples from the current minibatch as negatives. They could not closely track the change of the learned representation over iterations by updating the entire queue as a whole, or discard the useful information from the past minibatches. Alternatively, we present to directly learn a set of negative adversaries playing against the self-trained representation. Two players, the representation network and negative adversaries, are alternately updated to obtain the most challenging negative examples against which the representation of positive queries will be trained to discriminate. We further show that the negative adversaries are updated towards a weighted combination of positive queries by maximizing the adversarial contrastive loss, thereby allowing them to closely track the change of representations over time. Experiment results demonstrate the proposed Adversarial Contrastive (AdCo) model not only achieves superior performances (a top-1 accuracy of 73.2\% over 200 epochs and 75.7\% over 800 epochs with linear evaluation on ImageNet), but also can be pre-trained more efficiently with fewer epochs.

研究动机与目标

• 为解决现有对比学习方法效率低下的问题，这些方法要么仅部分更新负样本队列，要么完全依赖当前小批量的负样本。
• 提出一种方法，通过整体更新负样本而非逐次更新或丢弃历史信息，持续追踪表示空间随时间的变化。
• 通过端到端训练可学习的负样本对抗器，使其随时间自适应地变得更具挑战性，从而提升预训练效率。
• 在保持或提升下游性能的前提下，减少预训练所需的训练周期数和 GPU 时间。

提出的方法

• AdCo 将表示网络与一组可学习的负样本对抗器之间的优化建模为一个最小最大优化问题。
• 表示网络通过区分正样本查询与对抗性负样本，最小化对比损失进行训练。
• 负样本对抗器通过最大化相同的对比损失进行更新，使其趋向于正样本查询的加权组合，从而保持挑战性。
• 对抗更新机制确保负样本能紧密跟踪不断演化的表示空间，避免使用过时或无关的负样本。
• 该方法实现了主干网络与负样本对抗器的端到端联合训练，将二者整合为统一的学习组件。
• 导数分析表明，负样本对抗器会趋向于正样本查询的加权平均，从而确保其具有代表性与判别性。

实验结果

研究问题

• RQ1 是否能够有效实现对抗性负样本的端到端训练，以增强自监督表示学习的判别能力？
• RQ2 整体更新所有负样本对抗器相比逐次更新队列，如何提升表示学习效果？
• RQ3 所提出的方法是否能在保持或提升性能的前提下，减少所需的预训练周期数和 GPU 时间？
• RQ4 对抗性负样本在捕捉小物体等困难样本方面表现如何，是否能提升下游检测性能？
• RQ5 表示网络与负样本对抗器之间的最小最大训练动态对收敛性和泛化能力有何影响？

主要发现

• 在 200 个训练周期后，AdCo 在 ImageNet 上的线性评估 top-1 准确率为 73.2%，在 800 个周期后达到 75.7%，在相同设置下优于 MoCo v2。
• 仅用 10 个周期，AdCo 的 top-1 准确率比 MoCo v2 高出 5%，展现出卓越的样本效率。
• 与 MoCo v2 相比，AdCo 将所需预训练周期数减少了约 30–50 个，同时实现了相当的性能表现。
• t-SNE 可视化显示，AdCo 产生的负样本异常值更少，负样本表示更紧密聚集，表明其对正样本查询分布的跟踪更优。
• 在 COCO 目标检测任务中，AdCo 相较基线模型将 AP_S 提升了 3.3%–3.6%，甚至优于采用多裁剪增强的 SWAV 模型。
• 消融实验表明，该方法显著减少了预训练所需的 GPU 时间，其效率高于 MoCo 和基于 BYOL 的方法。