[论文解读] Using Syntax-Based Machine Translation to Parse English into Abstract Meaning Representation

Michael Pust, Ulf Hermjakob+3 more|arXiv (Cornell University)|Apr 24, 2015

Natural Language Processing Techniques参考文献 31被引用 13

一句话总结

本文提出了一种基于语法的机器翻译（SBMT）框架，用于将英语句子解析为抽象意义表示（AMR），将AMR转换为与SBMT规则提取和解码兼容的树状结构。通过引入AMR特定的重排、语言建模和语义资源整合，该方法在AMR 1.0语料库上的Smatch得分相比最先进结果提升了7分。

ABSTRACT

We present a parser for Abstract Meaning Representation (AMR). We treat English-to-AMR conversion within the framework of string-to-tree, syntax-based machine translation (SBMT). To make this work, we transform the AMR structure into a form suitable for the mechanics of SBMT and useful for modeling. We introduce an AMR-specific language model and add data and features drawn from semantic resources. Our resulting AMR parser improves upon state-of-the-art results by 7 Smatch points.

研究动机与目标

• 为解决自动将英语句子解析为抽象意义表示（AMR）结构的挑战。
• 将原本专为字符串到字符串翻译设计的基于语法的机器翻译（SBMT）技术，适配至AMR的字符串到树结构解析任务。
• 克服SBMT与AMR之间的结构性和表示性差异，例如图结构目标、带标签的边以及无序子节点。
• 通过整合AMR特定的语言模型和外部语义资源（如WordNet）来提升解析准确率。
• 通过针对AMR无序子节点量身定制的特征参数和重排策略，最大化Smatch得分。

提出的方法

• 通过引入中间预终结符节点和基于角色的重标记，将AMR图转换为类似语法的树结构，以支持GHKM规则提取。
• 提出一种目标端重排技术，利用AMR子节点无序的特性，提升解码效率和准确率。
• 开发一种基于AMR树叶节点输出训练的AMR特定语言模型，以更好地捕捉语义和句法模式。
• 通过传播词义计数并使用基于类别的评分策略，将WordNet等语义知识资源传播至概念标注，实现语义知识整合。
• 采用MIRA学习算法，在开发集上通过同时使用无监督和基于规则的对齐方式，对特征权重进行调优以最大化Smatch得分。
• 使用带有统计特征和指示特征的束搜索自底向上图表解码器，从输入英语句子生成最优推导路径。

实验结果

研究问题

• RQ1 基于语法的机器翻译能否有效适配至将英语句子解析为抽象意义表示（AMR）的任务？
• RQ2 通过表示转换，AMR（有向无环图）与SBMT（基于树的系统）之间的固有结构性差异在多大程度上可以得到调和？
• RQ3 AMR特定的语言建模和语义知识源在多大程度上能超越标准SBMT组件，提升解析性能？
• RQ4 利用AMR中无序子节点特性的目标端重排，是否能显著提升Smatch得分？
• RQ5 整合多种对齐类型（无监督和基于规则的）是否能进一步提升解析准确率？

主要发现

• 所提出的AMR解析系统在AMR 1.0测试集上取得了74.1的Smatch得分，相比先前最先进结果提升了7分。
• 将AMR转换为与树兼容的格式，使得基于GHKM算法的有效规则提取和解码成为可能，形成了一项可行基线。
• 引入基于角色的重构与重标记显著提升了解析质量，尤其在与重排策略结合时效果更明显。
• 整合AMR特定语言模型和WordNet等语义资源带来了可测量的性能提升。
• 在调优过程中同时使用无监督和基于规则的对齐方式可提升结果，其中拼接对齐方式表现最佳。
• 该系统表明，只要进行适当的数据显示转换和领域特定增强，SBMT可快速适配至语义解析任务，且仅需极少的架构修改。