[论文解读] Low Resourced Machine Translation via Morpho-syntactic Modeling: The Case of Dialectal Arabic

Alexander Erdmann, Nizar Habash+2 more|arXiv (Cornell University)|Dec 18, 2017

Natural Language Processing Techniques参考文献 53被引用 6

一句话总结

本文提出了一种针对阿拉伯语方言（埃及语和黎凡特语）的低资源机器翻译系统，通过整合形态-句法建模与基于枢纽的翻译方法，显著提升了基线模型的性能。通过利用单语数据、形态分析器和枢纽模型等外部资源，该方法将盲测集上的BLEU分数从基线的14.6提升至17.5，表明即使在数据稀疏的情况下，句法和形态约束也能提升流畅度与准确性。

ABSTRACT

We present the second ever evaluated Arabic dialect-to-dialect machine translation effort, and the first to leverage external resources beyond a small parallel corpus. The subject has not previously received serious attention due to lack of naturally occurring parallel data; yet its importance is evidenced by dialectal Arabic's wide usage and breadth of inter-dialect variation, comparable to that of Romance languages. Our results suggest that modeling morphology and syntax significantly improves dialect-to-dialect translation, though optimizing such data-sparse models requires consideration of the linguistic differences between dialects and the nature of available data and resources. On a single-reference blind test set where untranslated input scores 6.5 BLEU and a model trained only on parallel data reaches 14.6, pivot techniques and morphosyntactic modeling significantly improve performance to 17.5.

研究动机与目标

• 为解决阿拉伯语方言间翻译中平行语料匮乏的问题，通过利用除小规模平行语料外的外部语言资源。
• 探究在低资源方言阿拉伯语设置下，建模形态与句法是否能提升翻译性能。
• 评估基于枢纽的翻译与形态-句法约束在提升埃及语与黎凡特语翻译流畅度与准确性方面的有效性。
• 开发一种可应用于其他具有相似形态句法差异的低资源语言对的框架。
• 通过方言无关工具与单语数据挖掘减少数据稀疏性，提升模型泛化能力。

提出的方法

• 该系统采用基于枢纽的方法，先将埃及语翻译为英语，再将英语翻译为黎凡特语，利用现有的英语平行语料。
• 引入形态分析器与词性标注器，以建模包括定指性、性别、数与词性在内的形态-句法特征。
• 训练一个判别式重排序模型（Dir+PP+Morph），通过在短语级对齐中强制施加形态-句法约束来纠正错误。
• 通过优先选择更长、更不常见的形态-句法有效短语对，改进对齐效果，减少过度切分错误。
• 利用单语数据训练语言模型，并通过种子数据与期望最大化算法挖掘可比句子对，以扩充平行训练集。
• 将形态-句法约束整合进神经重排序框架，同时提升形态准确性与整体流畅度。

实验结果

研究问题

• RQ1 尽管平行数据有限，形态-句法建模是否能显著提升低资源阿拉伯语方言间翻译性能？
• RQ2 当与形态-句法约束结合时，基于枢纽的翻译系统在提升翻译质量方面的有效性如何？
• RQ3 形态-句法特征在多大程度上减少了词对齐、短语切分与词插入中的错误？
• RQ4 外部资源（如单语数据与形态分析器）是否能缓解方言阿拉伯语机器翻译中的数据稀疏性？
• RQ5 形态-句法约束如何影响较长、较不常见的短语对在翻译中的选择？

主要发现

• 仅在平行语料上训练的基线模型在单参考盲测集上达到14.6的BLEU分数。
• 所提出的结合枢纽技术与形态-句法建模的方法，在盲测集上达到17.5的BLEU分数，显著优于基线模型。
• 形态-句法约束使目标特征中的形态错误减少了17%；基线模型中7.4%的词标记错误表示形态-句法属性，而增强模型中该比例降至6.1%。
• 通过支持选择更长、形态有效的短语对，即使其频率较低，模型也减少了过度切分错误。
• 通过建模词性约束，系统能纠正不必要的词插入（如阿拉伯语中插入‘what’），这些约束会排斥与空标记对齐。
• 整体错误减少主要为间接效应——纠正后剩余错误比例从7.1%降至5.2%，主要归因于句法与短语级建模的改进。