[论文解读] Towards Trustworthy Explanation: On Causal Rationalization

Wenbo Zhang, Tong Wu+3 more|arXiv (Cornell University)|Jun 25, 2023

Topic Modeling被引用 4

一句话总结

本文提出因果归因（causal rationalization），一种新颖的框架，通过利用结构因果模型（structural causal models）识别自然语言处理中可信的、非虚假的归因，通过强制执行因果理想标准——非虚假性（non-spuriousness）与高效性（efficiency）。该方法引入因果概率（如CPNS）以区分真正的因果归因与高度相关但虚假的替代项，在评论和医疗数据集上相比基于关联的方法，实现了更高的忠实度与泛化能力。

ABSTRACT

With recent advances in natural language processing, rationalization becomes an essential self-explaining diagram to disentangle the black box by selecting a subset of input texts to account for the major variation in prediction. Yet, existing association-based approaches on rationalization cannot identify true rationales when two or more snippets are highly inter-correlated and thus provide a similar contribution to prediction accuracy, so-called spuriousness. To address this limitation, we novelly leverage two causal desiderata, non-spuriousness and efficiency, into rationalization from the causal inference perspective. We formally define a series of probabilities of causation based on a newly proposed structural causal model of rationalization, with its theoretical identification established as the main component of learning necessary and sufficient rationales. The superior performance of the proposed causal rationalization is demonstrated on real-world review and medical datasets with extensive experiments compared to state-of-the-art methods.

研究动机与目标

• 为解决基于关联的归因方法无法区分真正因果归因与高度相关但虚假的片段这一局限性。
• 通过两个因果理想标准（非虚假性（因果相关性）与高效性（非冗余性））形式化因果归因。
• 构建一个归因的结构因果模型，通过因果概率实现对必要与充分归因的理论识别。
• 通过确保归因反映真实因果机制而非仅统计关联，提升高风险自然语言处理应用（如医疗）中模型的可信度。

提出的方法

• 为归因提出一个结构因果模型（SCM），建模输入片段、结果与预测因子之间的因果关系。
• 定义关键的因果概率，包括CPNS（必要与充分原因的因果概率），其源自反事实干预。
• 利用忽略性假设（ignorability assumption）将CPNS识别为干预下结果概率的差异：P(Y=y|Zj=zj, Z−j=z−j, X=x) − P(Y=y|Zj≠zj, Z−j=z−j, X=x)。
• 应用单调性与一致性假设，推导并界定CPNS，确保因果归因的理论可识别性。
• 将因果归因识别整合进选择-预测框架，用因果感知的选择器替代标准的基于关联的选择器。
• 采用反事实推理评估每个片段在预测结果中的必要性与充分性，确保对因果机制的忠实性。

实验结果

研究问题

• RQ1 能否将因果理想标准——非虚假性与高效性——正式嵌入归因框架，以提升自然语言处理中解释的可信度？
• RQ2 在归因的结构因果模型中，因果概率如何实现理论识别与估计？
• RQ3 当输入片段高度相关时，因果归因能否优于基于关联的方法，识别出忠实且非冗余的归因？
• RQ4 与标准归因方法相比，因果归因在分布偏移下的泛化能力提升程度如何？
• RQ5 所提出的因果概率（如CPNS）如何实现对真正必要且充分归因的选取，而非虚假替代项？

主要发现

• 所提出的因果归因方法在评论与医疗数据集上相比最先进基于关联的基线方法，显著提升了忠实度与泛化能力。
• 在Yelp与IMDB评论数据集上，因果归因在归因选择的F1得分上优于基线，同时保持高预测准确率。
• 在MIMIC-III医疗数据集上，该方法识别出与临床专家标注的患者结果因果因素一致的临床有意义归因。
• 该方法在分布偏移下表现出鲁棒性，在测试数据分布与训练数据不同时仍保持高性能，而基于关联的模型则易受虚假特征依赖的影响。
• 理论分析证实，在标准因果假设下CPNS具有可识别性，从而可实现对输入片段因果相关性的可靠估计。
• 实证结果表明，因果归因减少了对虚假相关特征的依赖——例如，在啤酒评论中可区分真正因果原因（如“不悦人的气味”）与相关但非因果的特征（如“口感”）。