[论文解读] Adversarial Contrastive Estimation

Avishek Joey Bose, Huan Ling+1 more|arXiv (Cornell University)|May 9, 2018

Topic Modeling参考文献 37被引用 19

一句话总结

本文提出对抗对比估计（ACE），一种通过将固定负采样替换为条件性、对抗性学习的混合采样器来增强对比学习的方法。通过在类似GAN的极小化-极大化博弈中训练生成器以生成更具挑战性的负样本，ACE 加快了收敛速度，并在词嵌入、顺序嵌入和知识图谱嵌入中提升了性能，在 WN18 上实现了 0.792 的 MRR 得分，达到当前最先进水平。

ABSTRACT

Learning by contrasting positive and negative samples is a general strategy adopted by many methods. Noise contrastive estimation (NCE) for word embeddings and translating embeddings for knowledge graphs are examples in NLP employing this approach. In this work, we view contrastive learning as an abstraction of all such methods and augment the negative sampler into a mixture distribution containing an adversarially learned sampler. The resulting adaptive sampler finds harder negative examples, which forces the main model to learn a better representation of the data. We evaluate our proposal on learning word embeddings, order embeddings and knowledge graph embeddings and observe both faster convergence and improved results on multiple metrics.

研究动机与目标

• 解决对比学习中固定、非自适应负采样带来的局限性，此类采样常产生容易的负样本，阻碍模型的判别能力。
• 通过对抗性训练动态生成更具挑战性的负样本，以改进表征学习。
• 在统一框架下整合多种对比学习方法，同时提升收敛速度与最终性能。
• 在包括词嵌入和知识图谱嵌入在内的多种自然语言处理任务中，验证对抗性负采样的有效性。
• 分析生成器熵正则化与假负样本处理对训练稳定性与性能的影响。

提出的方法

• ACE 引入一种混合负采样器，结合固定的噪声对比估计（NCE）分布与对抗性学习的生成器分布。
• 生成器在条件 GAN 设置下进行训练，其根据输入的正样本生成负样本，以最大化判别器的损失。
• 主模型与生成器在极小化-极大化博弈中交替进行训练，判别器学习区分真实正样本与对抗性负样本。
• 关键创新在于对生成器输出施加熵正则化，以防止模式崩溃并确保负采样结果的多样性。
• 当生成器无法生成困难负样本时，系统会回退至 NCE，以确保训练稳定性。
• 该框架应用于三项任务：词嵌入（CBOW/跳字模型）、顺序嵌入以及知识图谱嵌入（TransD、DistMult、ComplEx）。

实验结果

研究问题

• RQ1 对抗性学习的负采样器是否能生成比固定 NCE 采样更困难的负样本，从而实现更好的表征学习？
• RQ2 固定与学习型负采样相结合是否能提升训练稳定性与收敛速度？
• RQ3 对生成器施加熵正则化如何影响所采样负样本的质量与多样性？
• RQ4 ACE 在知识图谱与词嵌入任务的下游指标（如 MRR 与 hit@10）上能实现多大程度的性能提升？
• RQ5 ACE 是否能在不同嵌入架构与学习目标之间实现良好泛化？

主要发现

• 在 WN18 链接预测基准上，ACE 达到了 0.792 的 MRR，显著优于基线 NCE TransD（0.527 MRR），并在某些设置下与 SOTA 模型 COMPLEX（0.941 MRR）持平或超越。
• 在 WN18 上，ACE 相较于标准 NCE 的 MRR 提升超过 48%，表明由于负样本更具挑战性，模型具备更强的判别能力。
• 判别器对生成器采样负样本的损失始终高于对 NCE 采样负样本的损失，证实生成器确实生成了更具挑战性的样本。
• 在上下位词预测任务中，ACE 生成的负样本导致判别器损失更快下降，表明其更具难度且提供了更强的学习信号。
• 熵正则化与权重衰减的引入对训练稳定至关重要，可有效防止生成器模式崩溃并提升性能。
• ACE 在所有评估任务中均表现出更快的收敛速度，在词嵌入、顺序嵌入与知识图谱嵌入任务中，MRR 与 hit@10 均实现一致提升。