[论文解读] A Multi-Format Transfer Learning Model for Event Argument Extraction via Variational Information Bottleneck

Jie Zhou, Qi Zhang+3 more|arXiv (Cornell University)|Aug 27, 2022

Topic Modeling被引用 5

一句话总结

本文提出UnifiedEAE，一种用于事件论元抽取的多格式迁移学习模型，通过共享-特定提示框架和变分信息瓶颈（VIB）提炼格式共享知识，同时过滤异构数据集中的噪声。该方法在三个基准数据集上达到最先进性能，并通过有效迁移跨格式知识显著提升低资源事件论元抽取效果。

ABSTRACT

Event argument extraction (EAE) aims to extract arguments with given roles from texts, which have been widely studied in natural language processing. Most previous works have achieved good performance in specific EAE datasets with dedicated neural architectures. Whereas, these architectures are usually difficult to adapt to new datasets/scenarios with various annotation schemas or formats. Furthermore, they rely on large-scale labeled data for training, which is unavailable due to the high labelling cost in most cases. In this paper, we propose a multi-format transfer learning model with variational information bottleneck, which makes use of the information especially the common knowledge in existing datasets for EAE in new datasets. Specifically, we introduce a shared-specific prompt framework to learn both format-shared and format-specific knowledge from datasets with different formats. In order to further absorb the common knowledge for EAE and eliminate the irrelevant noise, we integrate variational information bottleneck into our architecture to refine the shared representation. We conduct extensive experiments on three benchmark datasets, and obtain new state-of-the-art performance on EAE.

研究动机与目标

• 为解决在格式不一致、标注模式各异且存在噪声的事件论元抽取数据集之间迁移知识的挑战。
• 开发一种统一模型，能够从具有不同事件类型、论元角色和命名规范的多个数据集中抽取论元。
• 通过利用更大规模、异构数据集中的共享知识，提升低资源事件论元抽取性能。
• 通过过滤格式特异性噪声，减少直接合并数据集导致的性能下降。
• 通过在统一架构中学习格式共享与格式特异性表征，提升泛化能力。

提出的方法

• 设计共享-特定提示（SSP）框架，从多格式数据集中学习格式共享与格式特异性表征。
• 模型采用基于提示的微调策略，无需架构更改即可适配不同事件论元抽取格式。
• 在共享表征流中集成变分信息瓶颈（VIB）模块，以抑制无关的、格式特异性的信息。
• VIB组件通过最大化与目标标签的互信息，同时最小化对输入格式的信息量，对共享表征进行正则化。
• 通过输入文本与提示标记之间的统一交叉注意力机制，联合优化论元识别与分类。
• 模型在具有不同格式的多个数据集上端到端训练，实现对新数据集的零样本与少样本迁移。

实验结果

研究问题

• RQ1 统一模型能否有效跨异构格式的数据集抽取事件论元，包括不同的事件类型、论元角色和命名规范？
• RQ2 在多格式事件论元抽取中，如何有效学习并分离格式共享知识与格式特异性噪声？
• RQ3 集成变分信息瓶颈在多大程度上提升了迁移学习在EAE中的泛化能力与鲁棒性？
• RQ4 所提出的模型是否能在仅有少量标注样本的情况下实现事件论元抽取的最先进性能？
• RQ5 该模型是否优于直接合并数据集的策略，后者常因标注不一致导致性能下降？

主要发现

• UnifiedEAE 在三个基准EAE数据集（ACE2005、RAMS和WikiEvents）上达到新的最先进性能。
• 当从RAMS迁移至WikiEvents时，若移除共享-特定提示（SSP）组件，论元识别与分类的F1值下降约四个点。
• 在从RAMS迁移至ACE2005时，SharedVIB组件使性能提升超过四个点，证明其在过滤噪声和增强共享知识方面的有效性。
• 在WikiEvents上仅使用10个标注样本时，UnifiedEAE的F1值超过30，而PAIE模型表现近乎随机，显示出强大的少样本泛化能力。
• UnifiedEAE在WikiEvents上使用200个样本时，性能与全量数据基线模型（如BART-Gen、EEQA-BART）相当，后者在3,241个样本上进行训练。
• 格式共享模型可泛化至零样本场景：即使在ACE2005的训练数据中未包含该事件类型，仍能正确抽取“Personnel.Nominate”事件的论元角色。