[论文解读] A Survey on Extraction of Causal Relations from Natural Language Text

Jie Yang, Soyeon Caren Han+1 more|arXiv (Cornell University)|Jan 16, 2021

Topic Modeling被引用 16

一句话总结

本综述对从自然语言文本中提取因果关系（CRE）进行了全面分析，涵盖显式与隐式、句内与句间因果关系。它评估了基于知识、统计机器学习和深度学习的方法，识别出数据稀缺和文档级推理等关键挑战，并强调了领域特定预训练模型与图神经网络在构建因果知识库方面的未来潜力。

ABSTRACT

As an essential component of human cognition, cause-effect relations appear frequently in text, and curating cause-effect relations from text helps in building causal networks for predictive tasks. Existing causality extraction techniques include knowledge-based, statistical machine learning(ML)-based, and deep learning-based approaches. Each method has its advantages and weaknesses. For example, knowledge-based methods are understandable but require extensive manual domain knowledge and have poor cross-domain applicability. Statistical machine learning methods are more automated because of natural language processing (NLP) toolkits. However, feature engineering is labor-intensive, and toolkits may lead to error propagation. In the past few years, deep learning techniques attract substantial attention from NLP researchers because of its' powerful representation learning ability and the rapid increase in computational resources. Their limitations include high computational costs and a lack of adequate annotated training data. In this paper, we conduct a comprehensive survey of causality extraction. We initially introduce primary forms existing in the causality extraction: explicit intra-sentential causality, implicit causality, and inter-sentential causality. Next, we list benchmark datasets and modeling assessment methods for causal relation extraction. Then, we present a structured overview of the three techniques with their representative systems. Lastly, we highlight existing open challenges with their potential directions.

研究动机与目标

• 系统性回顾基于知识、统计机器学习和深度学习方法的因果关系提取（CRE）技术。
• 对不同形式的因果关系进行分类与分析：显式/句内、隐式/句内及句间因果关系。
• 评估CRE研究中使用的基准数据集与标准评估指标。
• 识别并讨论关键开放挑战：多重因果关系、数据不足以及文档级因果关系抽取。
• 提出未来研究方向，特别是领域特定预训练模型与基于图的推理的整合，以提升性能。

提出的方法

• 根据语言线索和结构位置，将因果关系分类为显式与隐式形式，以及句内与句间类型。
• 回顾并比较三类主要方法：基于知识的方法（基于规则、词典驱动）、统计机器学习方法（使用NLP工具包进行特征工程）以及深度学习方法（使用神经网络进行表征学习）。
• 分析代表性系统，如使用远程监督、BiLSTM结合注意力机制进行无监督预训练，以及图卷积网络（GCNs）用于文档级推理。
• 使用标准指标（如精确率、召回率和F1）在TAC-RED、Causal-DB和DocRED等基准数据集上评估性能。
• 提出混合方法，结合无监督预训练（如BiLSTM结合注意力机制）与有监督分类（如随机森林），以应对数据稀缺问题。
• 引入路径推理机制与提及级别GCNs，以建模跨句子和段落的长距离依赖关系，用于文档级因果关系抽取。

实验结果

研究问题

• RQ1 不同形式的因果关系——显式、隐式、句内与句间——在语言线索和抽取难度方面有何差异？
• RQ2 基于知识、统计机器学习和深度学习方法在因果关系抽取中的优势与局限性分别是什么？
• RQ3 不同CRE系统中的基准数据集与评估指标如何比较，其局限性是什么？
• RQ4 因果关系抽取中的关键挑战是什么，特别是数据稀缺与文档级推理方面？
• RQ5 新兴技术如领域特定预训练模型与基于图的推理，哪些最有可能克服当前局限？

主要发现

• 基于知识的方法可解释性强，但需要大量人工投入，且缺乏跨领域泛化能力。
• 统计机器学习方法减少了人工工作量，但因依赖NLP工具包和繁琐的特征工程，易产生误差传播。
• 深度学习模型因表征学习能力表现出色，但计算成本高，且需要大规模标注数据集。
• 远程监督方法（如使用Freebase）可大规模生成训练数据，但引入显著噪声，可通过at-least-one或基于主题的方法加以缓解。
• 在低资源环境下，使用BiLSTM与注意力机制进行无监督预训练，再结合有监督分类（如随机森林）的方法，为解决数据不足问题提供了有前景的方案。
• 基于图的模型（如结合路径推理机制的GCNs）在文档级因果关系任务中显著提升性能，在DocRED数据集上超越了最先进水平。