[论文解读] Learning Semantic Parsers from Denotations with Latent Structured Alignments and Abstract Programs

Bailin Wang, Ivan Titov+1 more|arXiv (Cornell University)|Sep 9, 2019

Topic Modeling参考文献 47被引用 4

一句话总结

本文提出了一种弱监督神经语义解析器，通过建模自然语言问题与程序组件之间的结构化隐式对齐，提升泛化能力，利用抽象程序减少搜索空间。通过施加对齐约束（如唯一跨度到槽的映射），有效区分正确与虚假程序，在WikiTableQuestions和WikiSQL上达到最先进性能。

ABSTRACT

Semantic parsing aims to map natural language utterances onto machine interpretable meaning representations, aka programs whose execution against a real-world environment produces a denotation. Weakly-supervised semantic parsers are trained on utterance-denotation pairs treating programs as latent. The task is challenging due to the large search space and spuriousness of programs which may execute to the correct answer but do not generalize to unseen examples. Our goal is to instill an inductive bias in the parser to help it distinguish between spurious and correct programs. We capitalize on the intuition that correct programs would likely respect certain structural constraints were they to be aligned to the question (e.g., program fragments are unlikely to align to overlapping text spans) and propose to model alignments as structured latent variables. In order to make the latent-alignment framework tractable, we decompose the parsing task into (1) predicting a partial "abstract program" and (2) refining it while modeling structured alignments with differential dynamic programming. We obtain state-of-the-art performance on the WIKITABLEQUESTIONS and WIKISQL datasets. When compared to a standard attention baseline, we observe that the proposed structured-alignment mechanism is highly beneficial.

研究动机与目标

• 解决弱监督语义解析中的虚假程序问题，即程序执行正确但无法泛化。
• 通过引入捕捉高层操作（如行和列选择）的抽象程序，减少可能程序的搜索空间。
• 引入结构约束（如问题跨度与程序槽之间的非重叠、双射对齐）作为归纳偏置，以偏好语义一致的程序。
• 开发一种可处理的两阶段解析框架：首先预测抽象程序，然后通过结构化注意力实例化。
• 通过将抽象程序生成与低级别实体特定实例化解耦，提升对未见表格和罕见实体的鲁棒性。

提出的方法

• 将语义解析分解为两个阶段：(1) 序列到序列模型从问题生成抽象程序，(2) 局部分类器使用结构化注意力实例化槽。
• 将问题跨度与程序槽之间的对齐建模为结构化隐式变量，强制执行唯一性、非重叠等约束。
• 使用微分动态规划，在训练期间高效计算对齐边的边缘概率。
• 应用结构化注意力，根据对齐得分加权输入表示，提升槽实例化的准确性。
• 引入两阶段训练过程：首先训练抽象程序生成器，然后联合微调实例化模块与对齐建模。
• 通过惩罚将多个操作分配给同一文本跨度的对齐方式，强制实施结构约束，抑制虚假程序。

实验结果

研究问题

• RQ1 结构化隐式对齐是否能通过减少对虚假程序的依赖，提升弱监督语义解析中的泛化能力？
• RQ2 在保留表达能力的前提下，抽象程序在减少表格语义解析搜索空间方面的有效性如何？
• RQ3 对齐约束（如双射性和非重叠性）在多大程度上提升了解析器区分正确与虚假程序的能力？
• RQ4 将对齐建模为结构化隐式变量是否能提升在WikiTableQuestions和WikiSQL等基准数据集上的性能？
• RQ5 与标准注意力机制相比，所提出方法在处理实例化错误和覆盖缺口方面表现如何？

主要发现

• 所提出的解析器在WikiTableQuestions和WikiSQL上均达到最先进性能，优于标准注意力基线。
• 实证分析表明，结构化对齐机制显著减少了实例化错误，尤其是由错误列名或过滤条件引起的问题，相比标准注意力机制。
• 该模型表现出更低的抽象错误率，表明在生成正确抽象程序方面更具可靠性。
• 覆盖错误仍是挑战，主要源于不支持的操作和实体链接失败，但其发生频率低于实例化错误。
• 结构化对齐模型通过违反对齐约束（如将多个操作分配给同一问题跨度）有效抑制了虚假程序。
• 消融研究证实，结构化对齐带来的归纳偏置提升了鲁棒性，尤其在虚假程序产生正确语义结果但缺乏语义一致性的情况下。