[论文解读] Graph-to-Tree Neural Networks for Learning Structured Input-Output Translation with Applications to Semantic Parsing and Math Word Problem

Shucheng Li, Lingfei Wu+4 more|arXiv (Cornell University)|Apr 7, 2020

Natural Language Processing Techniques参考文献 54被引用 14

一句话总结

本文提出 Graph2Tree，一种新颖的图到树神经网络，通过图编码器和具有分离注意力机制的分层树解码器，对图结构输入进行编码并解码分层树结构输出。该模型在语义解析和数学应用题求解任务中达到最先进性能，通过有效利用输入和输出中的结构信息，在 MAWPS 基准测试中相比现有方法最高提升 10 个百分点。

ABSTRACT

The celebrated Seq2Seq technique and its numerous variants achieve excellent performance on many tasks such as neural machine translation, semantic parsing, and math word problem solving. However, these models either only consider input objects as sequences while ignoring the important structural information for encoding, or they simply treat output objects as sequence outputs instead of structural objects for decoding. In this paper, we present a novel Graph-to-Tree Neural Networks, namely Graph2Tree consisting of a graph encoder and a hierarchical tree decoder, that encodes an augmented graph-structured input and decodes a tree-structured output. In particular, we investigated our model for solving two problems, neural semantic parsing and math word problem. Our extensive experiments demonstrate that our Graph2Tree model outperforms or matches the performance of other state-of-the-art models on these tasks.

研究动机与目标

• 为解决 Seq2Seq 模型在处理结构化输入和输出时的局限性，通过显式建模图结构输入和树结构输出。
• 通过结构化表示捕捉句法和组合依赖关系，提升神经网络语义解析和数学应用题求解性能。
• 开发一种通用的、与任务无关的结构化输入输出转换框架，使其在自然语言处理任务中具备泛化能力。
• 证明通过图和树建模引入结构信息，可显著提升性能，优于基于序列的基线方法。

提出的方法

• 该模型使用图编码器处理由词序列与依存树或短语结构树等句法结构组合而成的增强输入图。
• 分层树解码器逐步生成输出树结构，建模目标输出中的组合依赖关系。
• 引入分离注意力机制，在生成过程中对齐异构图节点与树解码器中的对应组合节点。
• 图编码器采用基于图神经网络的架构，通过父节点和兄弟节点消息传递机制丰富节点表示。
• 该模型支持依存图和短语结构图作为输入结构，提升输入表示的灵活性。
• 解码器采用树结构生成过程，保留数学表达式和语义解析的层次语义。

实验结果

研究问题

• RQ1 图到树神经网络是否能在语义解析和数学应用题求解等结构化输入输出转换任务中超越基于序列的模型？
• RQ2 在输入图中引入句法结构（如依存树或短语结构树）对模型性能有何影响？
• RQ3 分离注意力机制在生成过程中对齐图节点与树解码器状态的贡献是什么？
• RQ4 如父节点和兄弟节点消息传递等架构组件对数学应用题性能有何影响？
• RQ5 该模型是否能在无需任务特定工程的情况下泛化至不同结构化预测任务？

主要发现

• 在 MAWPS 基准测试中，使用短语结构图的 Graph2Tree 达到 78.8% 的解题准确率，相比所有先前最先进模型最高提升 10 个百分点。
• 在 MATHQA 数据集中，使用短语结构图的 Graph2Tree 达到 69.65% 的准确率，超过次佳基线模型超过 5 个百分点。
• 消融实验表明，若移除分离注意力机制，性能下降至 67.6%，凸显其在对齐与生成中的关键作用。
• 兄弟节点消息传递机制在数学应用题中尤为重要，因为等式中操作数的顺序对正确性至关重要。
• 在 MAWPS 和 MATHQA 上，使用短语结构图的模型均优于依存图版本，表明更丰富的句法结构可提升性能。
• 该模型能够直接生成未经归一化的、具有语义意义的方程，无需归一化技术，展示了其在忠实推理轨迹生成方面的潜力。