[论文解读] Causal Intervention Improves Implicit Sentiment Analysis

Siyin Wang, Jie Zhou+5 more|arXiv (Cornell University)|Aug 19, 2022

Sentiment Analysis and Opinion Mining被引用 9

一句话总结

本文提出ISAIV，一种用于隐式情感分析的因果干预模型，通过使用工具变量消除与显式情感词之间的虚假相关性，从而提升模型的鲁棒性和推理能力。通过应用两阶段学习以分离句子与情感之间的纯因果效应，ISAIV在通用和基于方面（aspect-based）的隐式情感分析任务上均达到最先进性能，准确率和F1值均优于强基线模型。

ABSTRACT

Despite having achieved great success for sentiment analysis, existing neural models struggle with implicit sentiment analysis. This may be due to the fact that they may latch onto spurious correlations ("shortcuts", e.g., focusing only on explicit sentiment words), resulting in undermining the effectiveness and robustness of the learned model. In this work, we propose a causal intervention model for Implicit Sentiment Analysis using Instrumental Variable (ISAIV). We first review sentiment analysis from a causal perspective and analyze the confounders existing in this task. Then, we introduce an instrumental variable to eliminate the confounding causal effects, thus extracting the pure causal effect between sentence and sentiment. We compare the proposed ISAIV model with several strong baselines on both the general implicit sentiment analysis and aspect-based implicit sentiment analysis tasks. The results indicate the great advantages of our model and the efficacy of implicit sentiment reasoning.

研究动机与目标

• 为解决神经网络模型在隐式情感分析中因依赖虚假相关性（如显式情感词）而导致的泛化能力差的问题。
• 从因果视角重新审视隐式情感分析，识别扭曲模型预测的混淆因子（confounders）。
• 开发一种方法，以分离输入句子与情感标签之间的纯因果效应，独立于混淆因素。
• 通过因果干预消除对词汇捷径的依赖，从而提升模型鲁棒性。
• 通过实证评估和对抗性测试，验证因果推理在隐式情感分析中的有效性。

提出的方法

• 该模型采用两阶段学习过程：首先，建模工具变量与输入句子之间的关系。
• 工具变量被定义为对输入施加的随机扰动，作为未观测混淆因子的代理。
• 在第二阶段，模型利用第一阶段的关系调整预测结果，以消除混淆因子与情感之间的虚假相关性。
• 该方法利用结构因果模型（SCMs）形式化因果关系，区分总效应与基于do-演算的因果效应。
• 通过工具变量估计识别句子对情感的直接因果效应，排除通过混淆因子的间接路径。
• 该框架被整合进深度神经网络，实现在保持因果可解释性的同时进行端到端训练。

实验结果

研究问题

• RQ1 使用工具变量进行因果干预是否能提升隐式情感分析任务的性能？
• RQ2 ISAIV模型在多大程度上减少了对显式情感词作为捷径的依赖？
• RQ3 与标准神经网络基线相比，ISAIV模型在对抗性攻击下是否表现出更强的鲁棒性？
• RQ4 将句子与情感之间的纯因果效应分离，是否能提升模型在隐式情感样本上的泛化能力？
• RQ5 该模型在多样化的隐式情感基准测试集（包括基于方面和完全隐式）上的表现如何？

主要发现

• 在餐厅数据集上，ISAIV取得58.77%的准确率和48.56%的F1值，优于BERT-SPC的57.04%准确率和44.43% F1值。
• 在笔记本电脑数据集上，ISAIV达到59.45%的准确率和43.24%的F1值，超过BERT-SPC的51.05%准确率和41.01% F1值。
• 对抗性攻击实验表明，ISAIV比基线模型更具鲁棒性，证实其对虚假情感线索的依赖性降低。
• 案例研究显示，ISAIV能在缺乏显式情感词的情况下正确推断情感，例如在上下文模糊的'automatically added'语境中。
• 通过消融实验和鲁棒性分析验证，该模型成功消除了词汇捷径带来的混淆影响，准确提取出纯因果效应。
• 在需要罕见世界知识的场景（如'gratuity'）中观察到局限性，表明外部知识融合仍是待解决的挑战。