[论文解读] Reordering rules for English-Hindi SMT

Raj Nath Patel, Rohit Gupta+2 more|arXiv (Cornell University)|Oct 24, 2016

Natural Language Processing Techniques参考文献 21被引用 16

一句话总结

本文提出了一套丰富的句法重排规则，用于英印短语基统计机器翻译（SMT），将英语句法树转换为符合印地语SOV（主-宾-谓）和后置修饰语词序的结构。通过使用Stanford句法解析器和人工提取规则，该方法提升了短语表质量与翻译性能，在MOSES工具包上的实验中，BLEU得分提升+4.8，NIST得分提高，mWER/mPER得分降低，显著优于基线系统和先前的重排方法。

ABSTRACT

Reordering is a preprocessing stage for Statistical Machine Translation (SMT) system where the words of the source sentence are reordered as per the syntax of the target language. We are proposing a rich set of rules for better reordering. The idea is to facilitate the training process by better alignments and parallel phrase extraction for a phrase-based SMT system. Reordering also helps the decoding process and hence improving the machine translation quality. We have observed significant improvements in the translation quality by using our approach over the baseline SMT. We have used BLEU, NIST, multi-reference word error rate, multi-reference position independent error rate for judging the improvements. We have exploited open source SMT toolkit MOSES to develop the system.

研究动机与目标

• 为解决在短语基SMT中，英语与印地语之间结构差异导致的词序不匹配问题，从而影响翻译准确性。
• 通过在训练和解码前对源句进行句法重排规则预处理，提升短语表质量与对齐一致性。
• 通过降低解码复杂度并提高捕捉更长、更准确翻译短语的可能性，从而提升翻译质量。
• 评估更丰富的规则集对标准机器翻译指标（包括BLEU、NIST、mWER和mPER）的影响，涵盖多种系统配置。
• 建立一个可复用的句法重排框架，适用于其他具有相似句法结构的英印语言对。

提出的方法

• 将人工推导的句法转换规则应用于英语句子的Stanford句法树，使其按照印地语的SOV和后置修饰语结构进行重排。
• 在训练和解码阶段均使用相同的重排规则，确保一致性，将重排视为短语基SMT流水线的预处理阶段。
• 利用MOSES工具包进行系统训练、调优与解码，使用GIZA++进行词对齐，使用KenLM进行语言模型建模，采用5-gram Kneser-Ney平滑。
• 通过对手动分析源句句法树及其对应印地语翻译的结果，提取重排规则，重点聚焦于SVO到SOV转换之外的通用转换模式。
• 通过短语表统计指标（如不同短语数量和IOBL提升）衡量改进效果，以评估对齐质量与模型覆盖率。
• 采用标准的机器翻译评估指标：BLEU、NIST、多参考词错误率（mWER）和多参考位置无关错误率（mPER）。

实验结果

研究问题

• RQ1 应用更丰富的句法重排规则是否能提升英印SMT中的短语表质量与翻译性能？
• RQ2 基于目标语言句法的重排在多大程度上能降低解码复杂度并提升对齐一致性？
• RQ3 基线系统、有限重排系统与所提出的改进重排系统在BLEU、NIST、mWER和mPER得分上如何比较？
• RQ4 所提出的重排方法是否可推广至其他具有相似句法结构的英印语言对？
• RQ5 重排对短语表中不同短语数量及短语长度分布有何影响？

主要发现

• 所提出的重排方法相比基线系统实现+4.8的BLEU得分提升，BLEU从21.55提升至26.35。
• NIST得分也显著提高，表明在n-gram精确度与流畅性方面翻译质量更优。
• 多参考词错误率（mWER）与多参考位置无关错误率（mPER）均下降，证实翻译错误减少。
• 从训练数据中提取的不同短语数量显著增加，尤其在长句短语中（例如，改进方法相比基线，短语长度为2时IOBL提升+21.72%）。
• 长句短语的IOBL增幅更高，表明重排有助于提取更长、更具语义意义的翻译单元。
• 短语表冗余减少，因为不同短语数量的增加速度超过总短语数量，表明对齐更一致、更可靠。