[论文解读] Supervised Syntax-based Alignment between English Sentences and Abstract Meaning Representation Graphs

Chenhui Chu, Sadao Kurohashi|arXiv (Cornell University)|Jun 7, 2016

Natural Language Processing Techniques参考文献 14被引用 4

一句话总结

该论文提出了一种基于语法的监督式方法，用于对齐英语句子与抽象意义表示（AMR）图，通过将标记泛化为句法标签来缓解数据稀疏性问题。该方法在仅使用100对黄金对齐训练数据的情况下，相较于无监督基线模型，F得分提升了1.7个百分点，并在仅使用100对黄金对齐训练对的情况下，使AMR解析准确率提升了0.4个百分点的Smatch F得分。

ABSTRACT

As alignment links are not given between English sentences and Abstract Meaning Representation (AMR) graphs in the AMR annotation, automatic alignment becomes indispensable for training an AMR parser. Previous studies formalize it as a string-to-string problem and solve it in an unsupervised way, which suffers from data sparseness due to the small size of training data for English-AMR alignment. In this paper, we formalize it as a syntax-based alignment problem and solve it in a supervised manner based on syntax trees, which can address the data sparseness problem by generalizing English-AMR tokens to syntax tags. Experiments verify the effectiveness of the proposed method not only for English-AMR alignment, but also for AMR parsing.

研究动机与目标

• 为解决因黄金对齐训练数据有限而导致的英语-AMR对齐任务中的数据稀疏性问题。
• 通过利用句法结构，提升英语句子与AMR图之间的对齐准确性。
• 通过更精确的对齐，提升下游AMR解析性能。
• 将对齐任务形式化为基于语法的监督学习问题，而非字符串到字符串的无监督任务。
• 证明基于语法的泛化能够减少数据稀疏性，并提升对齐与解析性能。

提出的方法

• 该方法使用短语结构解析树，将英语-AMR对齐形式化为基于语法的对齐问题。
• 将基于词元的对齐泛化为句法标签（如Sstatement、WHNP），以减少数据稀疏性。
• 在100对黄金对齐的英语-AMR对上训练监督式对齐模型，利用句法特征指导对齐决策。
• 该模型利用句法信息解决模糊对齐问题，例如将'to'映射到':ARG4'角色，或将'could'映射到'possible'概念。
• 该方法采用判别式模型，基于句法和词汇特征学习对齐权重，避免依赖字符串级对齐。
• 该模型在对齐准确率上进行评估，并用于微调当前最先进的AMR解析器，从而提升其Smatch F得分。

实验结果

研究问题

• RQ1 基于语法的监督式对齐模型是否能优于无监督的字符串到字符串对齐方法？
• RQ2 在低资源AMR对齐场景下，句法泛化在多大程度上能缓解数据稀疏性问题？
• RQ3 更优的对齐是否能带来可测量的AMR解析性能提升？
• RQ4 基于语法的泛化在解决AMR概念与英语词元之间模糊对齐问题时有多有效？
• RQ5 仅使用100对黄金对齐样本训练的模型，是否能显著超越无监督基线？

主要发现

• 所提出的基于语法的监督式方法，尽管仅使用100对训练样本，仍相较于Pourdamghani等人（2014）的无监督基线模型实现了1.7个百分点的绝对F得分提升。
• 当用于微调Pust等人（2015）的解析器时，该方法使AMR解析准确率提升了0.4个百分点的绝对Smatch F得分。
• 该模型通过利用句法上下文，有效解决了模糊对齐问题，例如将'to'正确对齐到':ARG4'角色，或将'could'对齐到'possible'概念。
• 使用句法标签（如Sstatement、WHNP）可减少数据稀疏性，并相比词元级对齐实现更好的泛化能力。
• 即使在监督信号极少的情况下，该模型在基准AMR数据集上仍优于现有的无监督和基于规则的基线方法。
• 结果表明，基于语法的泛化在低资源AMR对齐中是有效的，并可被用于提升下游解析性能。