[论文解读] GRASP: Guiding model with RelAtional Semantics using Prompt for Dialogue Relation Extraction

Junyoung Son, Jinsung Kim+2 more|arXiv (Cornell University)|Aug 26, 2022

Topic Modeling被引用 6

一句话总结

GRASP 提出了一种基于提示的微调方法，用于对话关系抽取，通过使用与论元相关的提示标记和关系线索检测任务，提升预训练语言模型在低信息密度对话中的性能。该方法在不增加额外层的情况下，在 DialogRE 基准上实现了最先进（SOTA）的结果，通过有效引导模型关注分散的关系线索（如触发词和论元角色），显著提升了性能。

ABSTRACT

The dialogue-based relation extraction (DialogRE) task aims to predict the relations between argument pairs that appear in dialogue. Most previous studies utilize fine-tuning pre-trained language models (PLMs) only with extensive features to supplement the low information density of the dialogue by multiple speakers. To effectively exploit inherent knowledge of PLMs without extra layers and consider scattered semantic cues on the relation between the arguments, we propose a Guiding model with RelAtional Semantics using Prompt (GRASP). We adopt a prompt-based fine-tuning approach and capture relational semantic clues of a given dialogue with 1) an argument-aware prompt marker strategy and 2) the relational clue detection task. In the experiments, GRASP achieves state-of-the-art performance in terms of both F1 and F1c scores on a DialogRE dataset even though our method only leverages PLMs without adding any extra layers.

研究动机与目标

• 为解决多说话人对话中信息密度低的问题，即关系事实分散在不同对话轮次中的挑战。
• 通过引导预训练语言模型（PLMs）关注触发词和论元角色等关系线索，提升对话中的关系抽取性能。
• 仅使用预训练语言模型（无需额外层或任务特定头）在 DialogRE 任务上实现最先进性能。
• 通过在情感识别任务（MELD 和 EmoryNLP）上进行评估，证明所提方法在关系抽取之外的泛化能力。

提出的方法

• 提出一种论元感知提示标记（APM）策略，使用特殊标记在对话输入中突出显示说话人和非说话人论元。
• 设计关系线索检测（RCD）任务，使模型预测每个标记是否为论元主语、宾语或触发词，从而引导注意力聚焦于关键关系元素。
• 将 RCD 任务与掩码语言建模（MLM）结合，形成联合训练目标，以增强模型对关系语义的理解。
• 使用带有 [MASK] 标记的提示模板，将关系分类任务转化为填空式预测问题，使下游任务与预训练目标对齐。
• 仅使用预训练语言模型（如 RoBERTa）而无需额外层，依赖提示工程和任务特定监督来引导性能。
• 通过消融研究实证验证标记类型和提示设计，以优化 APM 策略。

实验结果

研究问题

• RQ1 基于提示的方法结合论元感知标记，是否能在不增加额外网络层的情况下，提升低信息密度对话中的关系抽取性能？
• RQ2 关系线索检测（RCD）任务在引导模型关注关键关系线索（如触发词和论元角色）方面的有效性如何？
• RQ3 GRASP 框架是否能泛化到对话理解的其他任务（如情感识别）？
• RQ4 GRASP 在 DialogRE 基准的全样本和少样本设置下，与强基线模型相比表现如何？
• RQ5 APM 策略在多说话人对话中显式标记论元位置方面，对模型性能的提升程度如何？

主要发现

• GRASP 在 DialogRE 数据集上实现了最先进性能，F1 得分为 65.6，F1_c 得分为 40.0，超越了先前的 SOTA 模型（如 TUCORE-GCN）。
• 在全样本设置下，GRASP 在 MELD 和 EmoryNLP 数据集上均优于 RoBERTa、COSMIC 和 TUCORE-GCN，展现出强大的泛化能力。
• 该模型成功捕捉了对称关系和关键触发词（如 'got married'），从而能够区分 per:spouse 和 per:siblings 等关系，而标准微调模型则无法识别。
• 消融研究显示，APM 策略通过显式标记论元位置显著提升了性能，验证了标记类型和位置的重要性。
• RCD 任务有效引导模型关注关系线索，减少了因对话中线索稀疏或模糊导致的关系误分类。
• 即使在少样本设置下，GRASP 也表现出优越性能，表明其通过基于提示的适配方式，能有效利用 PLM 的知识并具备鲁棒性。