[论文解读] Learning Causal Bayesian Networks from Text

Farhad Moghimifar, Afshin Rahimi+2 more|arXiv (Cornell University)|Nov 26, 2020

Topic Modeling参考文献 18被引用 4

一句话总结

本文提出一种新颖方法，从文本中提取高层级概念之间的因果关系，利用语言变量和形式概念分析构建因果贝叶斯网络（CBN），在心理学文本数据集上实现69.4%的准确率——比最先进方法高出13-20%——并具备检测非相邻及双向因果关系的能力。

ABSTRACT

Causal relationships form the basis for reasoning and decision-making in Artificial Intelligence systems. To exploit the large volume of textual data available today, the automatic discovery of causal relationships from text has emerged as a significant challenge in recent years. Existing approaches in this realm are limited to the extraction of low-level relations among individual events. To overcome the limitations of the existing approaches, in this paper, we propose a method for automatic inference of causal relationships from human written language at conceptual level. To this end, we leverage the characteristics of hierarchy of concepts and linguistic variables created from text, and represent the extracted causal relationships in the form of a Causal Bayesian Network. Our experiments demonstrate superiority of our approach over the existing approaches in inferring complex causal reasoning from the text.

研究动机与目标

• 解决现有NLP方法仅能提取低层级、相邻事件之间因果关系的局限性。
• 实现在概念层面的因果推理，独立于文本中句子的邻近性。
• 以结构化、概率化形式（因果贝叶斯网络）表示提取的因果知识，以支持下游AI应用。
• 开发一种分层语言变量框架，支持推断文本中未直接共现的概念之间的因果关系。
• 发布PsyCaus数据集，用于评估心理学领域因果关系抽取，支持可复现研究。

提出的方法

• 使用基于概率的方法（Wu et al., 2012）通过IsA（上位词-下位词）关系从文本中提取语言变量及其取值。
• 利用形式概念分析（Ganter and Wille, 2012）构建形式概念格，以建模语言变量及其取值之间的层次关系。
• 应用一种新颖的因果检测函数（公式1），计算变量对之间的非对称相似度得分，并通过阈值μ确定因果方向。
• 利用分层结构推断即使未在文本中直接共同提及的概念之间的因果联系。
• 将最终的因果知识表示为因果贝叶斯网络（CBN），以支持概率推理和反事实推理。
• 利用CBN通过检测因果得分函数中的对称绝对值来建模双向因果关系，尽管CBN的有向性质要求通过后处理（如决策树）来实现此类关系。

实验结果

研究问题

• RQ1 即使原因和结果不在相邻句子中，能否可靠地从文本中提取高层级概念之间的因果关系？
• RQ2 分层语言变量框架能否提升文本中非相邻因果关系的检测能力？
• RQ3 所提出方法在识别概念之间双向因果关系（如情绪与进食障碍）方面的有效性如何？
• RQ4 能否从文本数据中有效构建因果贝叶斯网络，以支持复杂的因果与反事实推理？
• RQ5 所提出方法在因果关系抽取方面，相较于现有基于特征、基于分布及启发式基线方法，优势有多大？

主要发现

• 所提方法在因果关系分类上的测试准确率达到0.694，显著优于最先进基于特征的方法（0.56）和基于分布的方法（0.50）。
• 相较于最佳基于特征的基线方法提升13%，相较于多数类基线方法提升20%，表明其具备鲁棒性与泛化能力。
• 在阈值μ = 0.05时，模型的宏平均F1得分为0.66，表明对因果检测阈值具有最佳敏感性。
• 模型成功识别出双向因果关系（如情绪与进食障碍之间），即使未出现显式的因果连接词。
• 分层结构使模型能够检测到未在同一句话中共现的概念之间的因果联系，例如妄想障碍与不悦，这些关系被正确识别为具有因果关联。
• 模型性能对阈值μ敏感，F1在μ = 0.05时达到峰值，证实了超参数调优对最优因果检测的重要性。