[论文解读] Parser for Abstract Meaning Representation using Learning to Search

Sudha Rao, Yogarshi Vyas+2 more|arXiv (Cornell University)|Oct 26, 2015

Natural Language Processing Techniques参考文献 27被引用 6

一句话总结

本文提出了一种新颖的AMR解析方法，采用学习搜索（L2S）框架，特别是searn，以统一、端到端的方式联合建模概念和关系预测。该方法在多个多样化数据集上相比最先进方法实现了2–6%的绝对性能提升，且基于最常见概念对齐的强基线在概念预测方面优于以往方法。

ABSTRACT

We develop a novel technique to parse English sentences into Abstract Meaning Representation (AMR) using SEARN, a Learning to Search approach, by modeling the concept and the relation learning in a unified framework. We evaluate our parser on multiple datasets from varied domains and show an absolute improvement of 2% to 6% over the state-of-the-art. Additionally we show that using the most frequent concept gives us a baseline that is stronger than the state-of-the-art for concept prediction. We plan to release our parser for public use.

研究动机与目标

• 开发一种统一的、端到端的AMR解析框架，联合建模概念和关系预测，提升结构化预测的准确性。
• 通过利用更小但高质量的训练样本进行学习，解决AMR标注数据有限的挑战。
• 在新闻稿以外的多样化领域评估解析器，确保其鲁棒性和泛化能力。
• 基于训练数据中出现最频繁的概念对齐，建立一个强大的概念预测基线。
• 通过后处理启发式方法确保AMR的结构约束（连通性、无环性）得到满足。

提出的方法

• 解析器使用searn算法，即一种学习搜索（L2S）框架，将AMR解析分解为在搜索空间中的顺序决策步骤。
• 搜索空间被划分为三个阶段：概念预测、根节点选择和关系预测，每个阶段由通过监督分类学习得到的策略引导。
• 候选概念和关系从完整训练数据中提取，但学习过程仅在较短句子上进行，以提高数据效率。
• 训练一个策略网络，以在每个状态下选择最优的下一步动作（概念或关系），从而最小化整个AMR输出的结构化损失。
• 后处理通过生成树算法确保连通性，通过贪心方式移除每个两节点环中的一条边来处理无环性。
• 该方法联合优化整个AMR结构，避免了以往方法中先分别优化概念和关系的两阶段策略。

实验结果

研究问题

• RQ1 与两阶段方法相比，统一的、端到端的学习搜索框架是否能提升AMR解析性能？
• RQ2 仅使用短句进行训练，同时从完整数据集中提取候选，是否能在多样化领域中实现更好的泛化？
• RQ3 最常见概念基线在AMR解析中的概念预测方面，与最先进方法相比表现如何？
• RQ4 启发式后处理在不显式建模学习阶段的情况下，能在多大程度上维持AMR的结构约束（连通性、无环性）？
• RQ5 所提出的解析器在多样化领域（包括在线论坛和非新闻稿文本）中是否具有良好的泛化能力？

主要发现

• 所提出的解析器在五个多样化数据集上相比最先进方法实现了2%至6%的绝对性能提升，尤其在在线讨论论坛（dfa）数据集上达到21%的提升。
• 概念预测的最常见概念基线优于现有最先进方法，在仅考虑概念预测时相比JAMR实现了10–12%的绝对提升。
• 在dfa数据集上，概念预测基线相比JAMR实现了27%的相对提升，凸显其作为基准的强大性能。
• 该解析器在所有数据集上均保持高召回率，表明其覆盖范围优于以往最先进方法，后者常因召回率低而受限。
• 仅有4.8%的预测AMR包含环（主要为两节点环），通过每环移除一条边即可在不损失性能的前提下实现无环性。
• 在某些数据集上，1-best概念基线在概念预测上的表现几乎与完全训练的模型相当，表明概念预测本身即为一个强大的基线任务。