[论文解读] CASCADE: Contextual Sarcasm Detection in Online Discussion Forums

Devamanyu Hazarika, Soujanya Poria+4 more|ePrints@IISc (Indian Institute of Science)|May 16, 2018

Sentiment Analysis and Opinion Mining参考文献 26被引用 39

一句话总结

CASCADE 是一种混合讽刺检测模型，通过将基于内容的卷积神经网络（CNN）与用户嵌入表示及讨论帖中的语境特征相结合，实现性能提升。通过利用典型相关分析（CCA）提取用户风格和个性特征，并结合评论序列的语篇级上下文，CASCADE 在 SARC Reddit 语料库上实现了最先进性能，当所有上下文组件均被使用时，相比仅使用 CNN 的基线模型，F1 分数提升了 12%。

ABSTRACT

The literature in automated sarcasm detection has mainly focused on lexical, syntactic and semantic-level analysis of text. However, a sarcastic sentence can be expressed with contextual presumptions, background and commonsense knowledge. In this paper, we propose CASCADE (a ContextuAl SarCasm DEtector) that adopts a hybrid approach of both content and context-driven modeling for sarcasm detection in online social media discussions. For the latter, CASCADE aims at extracting contextual information from the discourse of a discussion thread. Also, since the sarcastic nature and form of expression can vary from person to person, CASCADE utilizes user embeddings that encode stylometric and personality features of the users. When used along with content-based feature extractors such as Convolutional Neural Networks (CNNs), we see a significant boost in the classification performance on a large Reddit corpus.

研究动机与目标

• 为解决在线讨论论坛中隐含讽刺语义检测的挑战，此类语境通常缺乏明确的词汇线索。
• 通过引入超越句子级特征的上下文信息，提升讽刺检测性能。
• 将用户特定的风格与个性特征建模为嵌入向量，以捕捉个体的讽刺倾向。
• 整合讨论帖中的语篇级上下文，提供背景信息与主题线索。
• 开发一种混合深度学习模型，融合内容、用户与语篇特征，实现更优的讽刺检测性能。

提出的方法

• CASCADE 使用 CNN 从单条评论中提取句法与语义特征，实现基于内容的表征。
• 通过典型相关分析（CCA）对风格计量与个性特征进行多视角融合，学习用户嵌入，生成紧凑且信息丰富的表征。
• 通过文档级建模技术对讨论帖中的评论序列进行建模，提取语篇特征。
• 最终表征通过拼接 CNN 输出、用户嵌入与语篇特征后输入分类器。
• 采用端到端训练的混合架构，联合优化内容、用户与上下文表征以实现讽刺检测。
• 在 SARC Reddit 语料库上评估模型，并通过消融研究分离各组件的贡献。

实验结果

研究问题

• RQ1 整合用户层面的风格与个性特征在多大程度上提升了讽刺检测性能？
• RQ2 讨论帖中的语篇级特征在多大程度上提升了讽刺检测性能，超越句子级内容特征？
• RQ3 用户嵌入与语篇建模在检测隐含讽刺中的相对贡献如何？
• RQ4 与简单拼接相比，使用 CCA 进行用户嵌入融合在性能与泛化能力方面表现如何？
• RQ5 当仅考虑单条评论时，语篇上下文建模是否能有效缓解讽刺语义的歧义？

主要发现

• 当所有组件——内容、用户嵌入与语篇特征——均被使用时，CASCADE 相较于仅使用 CNN 的基线模型，F1 分数实现了 12% 的绝对提升。
• 仅引入用户嵌入即可在所有数据集上使 F1 与准确率提升 8–12%，表明其具有强大的判别能力。
• 语篇特征贡献显著，尤其在 Pol 数据集上，相比仅使用 CNN 的模型，F1 提升了 3%。
• 将 CCA 替换为用户特征的简单拼接，导致性能显著下降，证明 CCA 在学习紧凑且信息丰富的用户表征方面具有显著优势。
• t-SNE 可视化显示，讽刺性用户在学习到的嵌入中表现出更高的方差（10.92 vs. 5.20），表明其模式更具区分性与分散性，有助于分类。
• 案例研究证实，语篇上下文对识别模糊评论中的讽刺语义至关重要，例如 'Whew, I feel much better now!' 仅在上下文语境中才显现出讽刺意味。