[论文解读] DialogXL: All-in-One XLNet for Multi-Party Conversation Emotion Recognition

Weizhou Shen, Junqing Chen+2 more|arXiv (Cornell University)|Dec 16, 2020

Sentiment Analysis and Opinion Mining参考文献 24被引用 17

一句话总结

本文提出 DialogXL，首个基于 XLNet 的多角色对话情感识别统一模型，通过引入话语级循环机制与对话感知自注意力机制，有效捕捉说话人内部及跨说话人的依赖关系。该模型在四个 ERC 基准上实现最先进性能，无需分层架构即可有效建模长距离上下文与说话人角色。

ABSTRACT

This paper presents our pioneering effort for emotion recognition in conversation (ERC) with pre-trained language models. Unlike regular documents, conversational utterances appear alternately from different parties and are usually organized as hierarchical structures in previous work. Such structures are not conducive to the application of pre-trained language models such as XLNet. To address this issue, we propose an all-in-one XLNet model, namely DialogXL, with enhanced memory to store longer historical context and dialog-aware self-attention to deal with the multi-party structures. Specifically, we first modify the recurrence mechanism of XLNet from segment-level to utterance-level in order to better model the conversational data. Second, we introduce dialog-aware self-attention in replacement of the vanilla self-attention in XLNet to capture useful intra- and inter-speaker dependencies. Extensive experiments are conducted on four ERC benchmarks with mainstream models presented for comparison. The experimental results show that the proposed model outperforms the baselines on all the datasets. Several other experiments such as ablation study and error analysis are also conducted and the results confirm the role of the critical modules of DialogXL.

研究动机与目标

• 解决预训练语言模型（如 XLNet）在建模多角色、多轮对话情感识别任务时的局限性。
• 克服分段级循环与普通自注意力机制在捕捉长距离依赖与说话人相关依赖方面的限制。
• 设计一种统一的非分层框架，直接将预训练模型应用于对话情感识别任务。
• 通过广泛的消融实验与错误分析，验证话语级循环与对话感知自注意力机制的有效性。

提出的方法

• 将 XLNet 的分段级循环替换为话语级循环，通过记忆库存储并重用历史话语的隐藏状态，实现更长上下文建模。
• 引入对话感知自注意力机制，计算四种类型的注意力：局部、全局、说话人与接收者自注意力，以建模说话人内部及跨说话人的依赖关系。
• 增强记忆机制，减少填充开销，提升历史话语表示存储的效率。
• 设计统一架构，将整个对话作为单一输入序列处理，避免复杂的分层建模。
• 将说话人角色意识直接集成到注意力计算中，而非依赖外部嵌入。
• 在四个公开的 ERC 基准上应用该模型，通过端到端微调实现情感分类。

实验结果

研究问题

• RQ1 能否在不使用分层建模的前提下，有效将类似 XLNet 的预训练语言模型适配于多角色对话情感识别任务？
• RQ2 话语级循环相较于分段级循环，在保留长距离对话上下文方面表现如何？
• RQ3 对话感知自注意力在建模说话人内部与跨说话人间依赖关系方面，对性能的提升程度如何？
• RQ4 DialogXL 的各个组件（如说话人注意力与接收者注意力）对整体性能的贡献分别是什么？
• RQ5 该模型的失败模式是什么？注意力机制是否能单独可靠地捕捉对话中的情感上下文？

主要发现

• DialogXL 在四个 ERC 基准上均优于所有基线模型，实现最先进性能，在 IEMOCAP 上取得 65.94 的 F1 分数，在 DailyDialog 上取得 54.93 的 F1 分数。
• 消融实验表明，若移除对话感知自注意力的任意组件，性能均显著下降，其中接收者自注意力的缺失导致 F1 分数下降最多（IEMOCAP 上 ↓3.07）。
• 话语级循环机制相比分段级循环，将内存填充减少超过 60%，显著提升效率并增强上下文保留能力。
• 在 IEMOCAP 上，对话感知自注意力比说话人角色嵌入高出 2.63 F1 分数，表明其在建模说话人动态方面更具优势。
• 错误分析显示，该模型容易因查询与历史话语间语义相似性而过拟合，导致 45% 的情感转变案例出现误分类。
• 当情感上下文发生转变时，模型对注意力机制的过度依赖可能产生误导，提示未来工作需引入互补机制。