[论文解读] Plan, Attend, Generate: Planning for Sequence-to-Sequence Models

Francis Dutil, Çaǧlar Gülçehre+2 more|arXiv (Cornell University)|Nov 28, 2017

Topic Modeling参考文献 5被引用 11

一句话总结

本文提出 Plan, Attend, Generate (PAG)，一种序列到序列模型，通过引入一个规划模块来生成解码前的结构化中间表示，从而提升翻译质量。该方法采用两阶段流程：首先通过指针-生成网络规划输出序列的结构，然后同时关注源序列和规划内容以生成目标序列。PAG 在强基线模型之上实现了更优的翻译质量，尤其在处理复杂句法结构和减少幻觉方面表现突出。

ABSTRACT

We investigate the integration of a planning mechanism into sequence-to-sequence models using attention. We develop a model which can plan ahead in the future when it computes its alignments between input and output sequences, constructing a matrix of proposed future alignments and a commitment vector that governs whether to follow or recompute the plan. This mechanism is inspired by the recently proposed strategic attentive reader and writer (STRAW) model for Reinforcement Learning. Our proposed model is end-to-end trainable using primarily differentiable operations. We show that it outperforms a strong baseline on character-level translation tasks from WMT'15, the algorithmic task of finding Eulerian circuits of graphs, and question generation from the text. Our analysis demonstrates that the model computes qualitatively intuitive alignments, converges faster than the baselines, and achieves superior performance with fewer parameters.

研究动机与目标

• 为解决标准序列到序列模型在生成连贯且准确翻译时的局限性，特别是针对复杂或长序列的翻译任务。
• 通过引入中间规划步骤，减少神经机器翻译中的幻觉和结构错误。
• 通过在生成前显式建模输出结构，改善源序列与目标序列之间的对齐。
• 评估解耦的规划阶段是否相比端到端模型能提升翻译质量。

提出的方法

• 提出一种两阶段架构：首先，规划网络生成目标序列的结构化中间表示。
• 规划模块使用指针-生成网络，预测目标输出中的标记或子结构序列。
• 解码器同时关注源序列和生成的规划内容，实现更知情且上下文相关的生成。
• 通过可视化和对比基线模型，分析源序列与目标序列之间的对齐情况，以证明注意力动态的改进。
• 模型采用标准序列到序列目标进行端到端训练，规划步骤通过可微注意力实现可微分。
• 在德语到英语的翻译任务上进行评估，使用包含100个示例的开发集。

实验结果

研究问题

• RQ1 引入中间规划阶段是否能提升序列到序列翻译模型的流畅性和准确性？
• RQ2 PAG 中的注意力对齐与标准序列到序列模型相比，在结构连贯性方面表现如何？
• RQ3 该规划机制是否能减少翻译输出中的幻觉和结构错误？
• RQ4 与基线模型相比，该模型在翻译过程中在多大程度上保持了句法和语义结构？

主要发现

• PAG 生成的翻译比基线更准确，尤其在保持句法结构和减少词汇幻觉方面表现更优。
• 该模型的注意力对齐显示出更清晰、更结构化的注意力模式，尤其在处理较长源序列时更为明显。
• 在示例翻译中，PAG 避免了基线模型中常见的重大错误，如错误的词序或语义漂移。
• 例如，当基线模型错误地将 'die Wiederwahl von Obama' 翻译为 'die Wahlen von Obama' 时，PAG 正确保留了原意，译为 'die Wiederwahl von Obama'。
• 该模型减少了如将 'Schaden' 误译为 'Schäden' 的错误，并避免了如基线模型中无中生有地加入 'Herr Beaulieu' 这类无关内容的问题。
• 定性分析证实，PAG 的规划步骤能带来更连贯且上下文恰当的输出生成。