[论文解读] Attentional Multi-Reading Sarcasm Detection

Reza Ghaeini, Xiaoli Z. Fern+1 more|arXiv (Cornell University)|Sep 9, 2018

Psychology of Moral and Emotional Judgment参考文献 16被引用 5

一句话总结

本文提出了一种可解释的、端到端的深度学习模型，名为注意力多读取（AMR），用于讽刺检测，该模型通过并行注意力机制联合编码话语和对话上下文。该模型在 SARC 数据集上实现了最先进性能，通过有效利用话语层面线索和上下文依赖信号，消融研究和注意力可视化证明了各模态对最终预测的独立贡献。

ABSTRACT

Recognizing sarcasm often requires a deep understanding of multiple sources of information, including the utterance, the conversational context, and real world facts. Most of the current sarcasm detection systems consider only the utterance in isolation. There are some limited attempts toward taking into account the conversational context. In this paper, we propose an interpretable end-to-end model that combines information from both the utterance and the conversational context to detect sarcasm, and demonstrate its effectiveness through empirical evaluations. We also study the behavior of the proposed model to provide explanations for the model's decisions. Importantly, our model is capable of determining the impact of utterance and conversational context on the model's decisions. Finally, we provide an ablation study to illustrate the impact of different components of the proposed model.

研究动机与目标

• 为解决现有讽刺检测模型仅孤立分析话语所存在的局限，通过引入对话上下文进行改进。
• 开发一种可解释的深度学习模型，将话语和对话上下文的信息在统一的端到端框架中进行融合。
• 通过注意力可视化和显著性分析，为模型预测提供解释。
• 通过消融研究和长度分析，实证评估话语和上下文对模型决策的影响。

提出的方法

• 该模型采用两个并行的双向LSTM，分别对评论（C）和回复（R）进行编码。
• 对每个序列应用多头自注意力机制，以捕捉句内依赖关系并突出显著短语。
• 通过可学习的注意力权重 α，采用晚期交互机制将评论和回复的编码表示结合，生成最终预测。
• 显著性注意力通过预测结果对注意力权重的梯度绝对值计算得出，从而实现对特征重要性的解释。
• 模型使用交叉熵损失进行端到端训练，并在 SARC 数据集上进行评估，辅以消融研究和定性分析。
• 该架构支持模块化分析：话语仅组件和对话依赖组件可独立评估，以衡量其各自贡献。

实验结果

研究问题

• RQ1 与仅依赖话语的模型相比，引入对话上下文在讽刺检测性能上带来了多大提升？
• RQ2 话语层面特征与上下文层面特征在模型最终预测中的贡献程度如何？
• RQ3 注意力可视化和显著性图能否提供有意义且人类可理解的模型决策解释？
• RQ4 评论或回复的长度如何影响仅话语组件与对话依赖组件的相对性能？

主要发现

• 完整版 AMR 模型在 SARC 数据集上的表现优于仅话语组件和对话依赖组件，证明了联合建模的优势。
• 对于短评论（n ≤ 50 个词元），仅话语组件的表现优于对话依赖组件，表明简短话语中存在强烈的内在线索。
• 对于较长评论（50 < n ≤ 200），对话依赖组件超越仅话语组件，表明随着输入长度增加，上下文变得更为关键。
• 对于非常短的回复（m ≤ 10），对话依赖组件表现更优，表明当回复缺乏内部线索时，上下文对消歧至关重要。
• 注意力显著性分析显示，特定短语对——如 'another responsible gun' 和 'man accidentally shoots'——对预测影响最大，与人类直觉一致。
• 该模型设计支持可解释的决策分析：通过可学习的注意力权重 α，可对话语和上下文对最终预测的贡献进行定量测量。