[论文解读] Correct-and-Memorize: Learning to Translate from Interactive Revisions

Rongxiang Weng, Hao Zhou+4 more|arXiv (Cornell University)|Jul 8, 2019

Natural Language Processing Techniques参考文献 32被引用 9

一句话总结

该论文提出CAMIT，一种新颖的交互式神经机器翻译框架，支持双向句子修正并记忆过往修订内容，以提升翻译效率与质量。通过允许人类用户在句子任意位置修正关键错误，并利用顺序双向解码器自动修复相关错误，CAMIT将修订需求最多减少50%，在理想环境下BLEU分数提升17分，在真实环境下提升8分，同时通过学习的修订记忆机制将UNK标记率降低16.1%。

ABSTRACT

State-of-the-art machine translation models are still not on par with human translators. Previous work takes human interactions into the neural machine translation process to obtain improved results in target languages. However, not all model-translation errors are equal -- some are critical while others are minor. In the meanwhile, the same translation mistakes occur repeatedly in a similar context. To solve both issues, we propose CAMIT, a novel method for translating in an interactive environment. Our proposed method works with critical revision instructions, therefore allows human to correct arbitrary words in model-translated sentences. In addition, CAMIT learns from and softly memorizes revision actions based on the context, alleviating the issue of repeating mistakes. Experiments in both ideal and real interactive translation settings demonstrate that our proposed \method enhances machine translation results significantly while requires fewer revision instructions from human compared to previous methods.

研究动机与目标

• 解决单向交互式NMT模型效率低下、无法修正修订点左侧错误的问题。
• 通过学习过往人工修订，减少在相似语篇或领域语境中重复出现的翻译错误。
• 通过允许人类用户优先修正句子中最重要的错误（无论位置），提升交互式翻译效率。
• 通过双机制（双向解码与词级、句级修订记忆）提升翻译质量。
• 在理想与真实交互环境下，显著减少人工修订工作量，同时保持或提升翻译输出质量。

提出的方法

• CAMIT采用顺序双向解码器，在每次人工修订后更新整个句子，实现对修订词左右两侧错误的自动修正。
• 模型使用键值修订记忆机制存储并检索过往的词级修正，帮助避免类似错误再次发生。
• 在句级层面，通过在线学习对基础NMT模型进行微调，使其适应特定语篇或领域语境。
• 通过允许任意位置的修订，将人类反馈集成到系统中，不同于以往仅支持从左到右修订的协议。
• 修订记忆在推理过程中动态更新，使模型能够‘记住’修正内容，并将其应用于未来相似的句子。
• 系统结合词级记忆与句级微调，增强对罕见词和领域术语的鲁棒性。

实验结果

研究问题

• RQ1 与单向方法相比，交互式NMT中采用双向解码策略是否能减少所需的人工修订次数？
• RQ2 学习的修订记忆机制在多大程度上能减少在相似语境中重复出现的相同翻译错误？
• RQ3 对已修订句子进行在线微调，在特定领域或语篇一致的语境下，能否提升翻译质量？
• RQ4 词级记忆与句级自适应的结合是否能降低翻译输出中的UNK标记率？
• RQ5 在真实环境中，该方法是否能在显著减少人工交互工作量的同时，保持或提升翻译质量？

主要发现

• 在仅需两次人工修订的理想交互环境下，CAMIT使翻译质量提升17 BLEU分。
• 在真实环境中，CAMIT实现8 BLEU分的提升，平均每句修订1.81次，显著降低人工工作量。
• 修订记忆将UNK标记率降低16.1%（从2052降至1723），表明对罕见词或未登录词的处理能力更强。
• 与单向模型不同，该模型能成功修正修订点左侧的错误。
• 案例研究显示，在学习过一个已修订句子后，CAMIT能自动修复后续语篇相关句子中的类似错误，从而减少修订需求。
• 所提方法在BLEU分数与修订效率方面均优于现有交互式NMT基线模型，展现出更优越的解码与学习机制。