[论文解读] An Embarrassingly Simple Model for Dialogue Relation Extraction

Fuzhao Xue, Aixin Sun+3 more|arXiv (Cornell University)|Dec 27, 2020

Topic Modeling被引用 4

一句话总结

本文提出 SimpleRE，一种轻量级但高效的对话关系抽取模型，采用新颖的 BERT 关系标记序列（BRS），通过在每个实体对前添加多个 [CLS] 标记，捕捉对话中多个实体对之间的相互关系。关系精炼门（RRG）自适应地优化特定关系的表示，使 SimpleRE 在 DialogRE 上达到最先进 F1 分数，且训练速度显著快于以往基于 BERT 的方法。

ABSTRACT

Dialogue relation extraction (RE) is to predict the relation type of two entities mentioned in a dialogue. In this paper, we propose a simple yet effective model named SimpleRE for the RE task. SimpleRE captures the interrelations among multiple relations in a dialogue through a novel input format named BERT Relation Token Sequence (BRS). In BRS, multiple [CLS] tokens are used to capture possible relations between different pairs of entities mentioned in the dialogue. A Relation Refinement Gate (RRG) is then designed to extract relation-specific semantic representation in an adaptive manner. Experiments on the DialogRE dataset show that SimpleRE achieves the best performance, with much shorter training time. Further, SimpleRE outperforms all direct baselines on sentence-level RE without using external resources.

研究动机与目标

• 为解决在对话文本中建模多个关系之间相互关系的挑战，以提升关系抽取性能。
• 设计一种简单而有效的架构，在不使用图网络等复杂结构的前提下，充分利用 BERT 的优势。
• 在保持或提升现有基于 BERT 模型性能的同时，显著减少训练时间。
• 通过将模型适配至句子级关系抽取任务，证明其泛化能力。

提出的方法

• 提出 BERT 关系标记序列（BRS），一种修改后的输入格式，为每个实体对前添加多个 [CLS] 标记，以编码特定关系的表示。
• 使用第一个 [CLS] 标记（h₀）表示完整对话上下文，而后续的 [CLS] 标记（hᵣᵢ）则编码每个实体对的特定关系语义。
• 应用关系精炼门（RRG），将 h₀ 和 hᵣᵢ 拼接后通过一个带 Sigmoid 激活函数的单层前馈网络处理，计算出置信度分数以门控关系预测。
• 在门控表示上应用线性分类器进行关系分类，句子级关系抽取中使用 Softmax。
• 设计消融变体（BRS-v2、BRS-v3）以评估 [CLS] 标记位置和 RRG 模块的重要性。
• 通过仅在每句话中保留一个 [CLS] 标记并移除 RRG 模块，将模型适配至句子级关系抽取任务。

实验结果

研究问题

• RQ1 通过简单地重新格式化 BERT 输入（即 BRS）是否能有效建模对话中多个关系之间的相互关系？
• RQ2 所提出的的关系精炼门（RRG）是否以提升表示学习质量的方式显著提高性能？
• RQ3 SimpleRE 在 DialogRE 数据集上的性能与强基线模型（如 BERTs 和 GDPNet）相比如何？
• RQ4 SimpleRE 框架是否可在不依赖外部知识的前提下，有效适配至句子级关系抽取任务？
• RQ5 通过消融研究，各组件（BRS、RRG、h₀、hᵣ）对最终性能的贡献分别是什么？

主要发现

• SimpleRE 在所有基于 BERT 的模型中，于 DialogRE 数据集上取得了最高的 F1 分数，显著优于 BERTs 和 GDPNet。
• 该模型的训练速度至少比 BERTs 和 GDPNet 快 5 倍，展现出显著的效率优势。
• 消融研究显示，若移除用于关系表示的第二个 [CLS] 标记，F1 分数下降 1.1%，证实其重要性。
• 当仅使用关系表示 hᵣ 时，性能降至 70.0 F1；当仅使用上下文表示 h₀ 时，性能降至 70.6 F1，证明两个组件均不可或缺。
• 在 TACRED 和 TACRED-Revisit 数据集上，SimpleRE 分别取得 71.7 和 80.7 F1 的成绩，优于所有直接基线模型，包括使用外部知识的 KnowBERT。
• BRS-v2 和 BRS-v3 变体通过在 [SEP] 标记处重新定位 [CLS] 标记，性能显著下降（分别为 62.8 和 63.5 F1），表明 [CLS] 标记位置的敏感性至关重要。