[论文解读] Supporting Medical Relation Extraction via Causality-Pruned Semantic Dependency Forest

Yifan Jin, Jiangmeng Li+3 more|arXiv (Cornell University)|Aug 29, 2022

Topic Modeling被引用 9

一句话总结

该论文提出CP-GCN，一种用于医学关系抽取的新方法，通过融合来自现成解析器的句法信息与基于多头注意力的语义表征，构建因果剪枝的语义依存森林。一种针对任务的因果解释器，基于格兰杰因果性解释数据集进行训练，用于剪枝无关边，使图卷积网络能够学习到更鲁棒的表征；CP-GCN在PGR基准上实现了SOTA性能，F1达到92.9。

ABSTRACT

Medical Relation Extraction (MRE) task aims to extract relations between entities in medical texts. Traditional relation extraction methods achieve impressive success by exploring the syntactic information, e.g., dependency tree. However, the quality of the 1-best dependency tree for medical texts produced by an out-of-domain parser is relatively limited so that the performance of medical relation extraction method may degenerate. To this end, we propose a method to jointly model semantic and syntactic information from medical texts based on causal explanation theory. We generate dependency forests consisting of the semantic-embedded 1-best dependency tree. Then, a task-specific causal explainer is adopted to prune the dependency forests, which are further fed into a designed graph convolutional network to learn the corresponding representation for downstream task. Empirically, the various comparisons on benchmark medical datasets demonstrate the effectiveness of our model.

研究动机与目标

• 为解决因使用域外解析器生成的低质量1-best依存树而导致医学关系抽取（MRE）性能下降的问题。
• 在无偏见的前提下，联合建模医学文本中的句法与语义信息，避免依赖解析器特有的偏差。
• 利用因果解释理论识别并移除依存森林中与任务无关的边，提升模型的鲁棒性与可解释性。
• 通过新颖的因果驱动剪枝机制，在基准MRE数据集上实现SOTA性能。

提出的方法

• 通过融合现成解析器生成的1-best依存树与基于多头注意力的语义表征，构建依存森林，以丰富句法与语义信息。
• 在基于格兰杰因果性的解释数据集上训练一种针对任务的因果解释器，以识别对MRE性能具有因果关联的边。
• 根据解释器分配的因果权重对依存森林进行剪枝，移除被认为与关系预测任务无关的边。
• 使用专用图卷积网络（DCGCN）对剪枝后的依存森林进行编码，以学习上下文感知的表征用于关系分类。
• 在森林构建过程中引入开关门机制，动态平衡句法与语义信息的融合。
• 通过森林生成过程隐式利用基尔霍夫矩阵-树定理，确保结构多样性与合理依存结构的覆盖。

实验结果

研究问题

• RQ1 在依存森林中联合建模句法与语义信息，是否能超越仅依赖单一1-best树，从而提升医学关系抽取性能？
• RQ2 使用针对任务的因果解释器剪枝依存森林，是否能带来优于未剪枝或启发式剪枝森林的性能提升？
• RQ3 所提出的因果剪枝机制在过滤复杂医学句子中的噪声与无关句法连接方面，效果如何？
• RQ4 与现有方法相比，该模型在长句与复杂句上的性能保持程度如何？

主要发现

• CP-GCN在PGR基准数据集上实现了SOTA的F1分数92.9，优于此前方法（如AC-GCN的92.4与LF-GCN的91.9）。
• 在CPR数据集上，CP-GCN取得67.3的F1分数，表明其在复杂医学文本的句子级关系抽取中表现强劲。
• 消融实验表明，若移除针对任务的因果剪枝模块，F1降至65.7，表明该模块在过滤噪声与提升模型泛化能力方面具有关键作用。
• 该模型在所有句长组中均优于所有基线模型，尤其在长句（>50个词）上表现显著提升，凸显其捕捉长距离依赖的能力。
• 案例研究证实，因果解释器成功保留了支持正确关系预测的关键语义与句法连接（如'induced'与'feature'之间的连接）。
• 移除语义嵌入模块后F1降至66.7，证实增强的语义表征对模型性能有实质性贡献。