[论文解读] Supervised Adversarial Contrastive Learning for Emotion Recognition in Conversations

Dou Hu, Yinan Bao+3 more|arXiv (Cornell University)|Jun 2, 2023

Emotion and Mood Recognition被引用 4

一句话总结

本文提出了一种新型框架——监督对抗对比学习（SACL），通过对比感知的对抗训练和在原始样本与对抗样本上联合进行的对比学习，学习具有类别分散结构的表征，从而提升对话中的情感识别性能。此外，本文还引入了一种情境对抗训练（CAT）策略，以增强上下文鲁棒性，在三个基准数据集上实现了最先进（SOTA）的性能，显著提升了泛化能力和细粒度情感分类效果。

ABSTRACT

Extracting generalized and robust representations is a major challenge in emotion recognition in conversations (ERC). To address this, we propose a supervised adversarial contrastive learning (SACL) framework for learning class-spread structured representations in a supervised manner. SACL applies contrast-aware adversarial training to generate worst-case samples and uses joint class-spread contrastive learning to extract structured representations. It can effectively utilize label-level feature consistency and retain fine-grained intra-class features. To avoid the negative impact of adversarial perturbations on context-dependent data, we design a contextual adversarial training (CAT) strategy to learn more diverse features from context and enhance the model's context robustness. Under the framework with CAT, we develop a sequence-based SACL-LSTM to learn label-consistent and context-robust features for ERC. Experiments on three datasets show that SACL-LSTM achieves state-of-the-art performance on ERC. Extended experiments prove the effectiveness of SACL and CAT.

研究动机与目标

• 解决对话情感识别（ERC）中学习通用且鲁棒表征的挑战，现有方法难以捕捉数据内在结构和类内细粒度特征。
• 克服标准对比学习压缩类内特征空间、损害判别能力的局限性。
• 提升模型对上下文相关对话输入中对抗扰动的鲁棒性，此类扰动可能破坏话语级别的相关性。
• 构建一个统一框架，同时增强标签一致性与上下文鲁棒性，以提升ERC性能。
• 通过消融研究和可视化分析，在多个基准数据集上验证所提SACL与CAT策略的有效性。

提出的方法

• 通过在隐藏层上使用极小化-极大化优化方法生成最坏情况扰动，实施对比感知的对抗训练，以创建困难正样本。
• 在原始样本和对抗样本上应用软监督对比学习（SCL），在保持类内细粒度差异的同时，强制实现标签级别的特征一致性。
• 设计一种情境对抗训练（CAT）策略，以多通道、上下文感知的方式施加对抗扰动，避免破坏话语间的依赖关系。
• 将CAT集成到SACL框架中，从上下文相关的对话输入中学习更具多样性与鲁棒性的表征。
• 开发SACL-LSTM，一种基于序列的模型，采用双LSTM模块进行上下文特征提取，并通过SACL目标引导情感分类器。
• 使用联合目标函数（结合交叉熵损失与原始样本和对抗样本上的软SCL损失）进行模型优化，以提升泛化能力和鲁棒性。

实验结果

研究问题

• RQ1 能否有效结合对抗训练与对比学习，以学习保留类内多样性的类别分散结构表征？
• RQ2 与标准对比学习和监督基线相比，所提出的SACL框架在泛化能力和鲁棒性方面有何提升？
• RQ3 情境对抗训练（CAT）策略在上下文相关对话场景中在多大程度上增强了模型鲁棒性？
• RQ4 SACL-LSTM是否在多个基准数据集上实现了对话情感识别的最先进性能？
• RQ5 该框架在处理类别不平衡以及相似情感类别误分类方面表现如何？

主要发现

• SACL-LSTM在三个公开的ERC基准数据集（IEMOCAP、MELD和DailyDialog）上实现了最先进性能，优于现有SOTA方法。
• 在MELD数据集上，SACL-LSTM在低上下文场景中表现出显著提升，证明CAT增强了上下文鲁棒性。
• t-SNE可视化结果表明，SACL学习到的类别聚类更紧密、更统一，且类间分离更明显，尤其在复杂情感（如惊讶）上表现更优。
• 模型对相似情感类别（如兴奋/快乐、愤怒/沮丧）的误分类显著减少，表明其具备更优的细粒度特征学习能力。
• 错误分析显示，SACL-LSTM在低频类别上的表现优于消融变体，表明其具备更好的公平性与鲁棒性。
• 扩展实验验证了SACL能有效提升表征质量，CAT也确实增强了上下文感知的特征多样性与鲁棒性。