[论文解读] PJAIT Systems for the IWSLT 2015 Evaluation Campaign Enhanced by Comparable Corpora

Krzysztof Wołk, Krzysztof Marasek|arXiv (Cornell University)|Dec 5, 2015

Natural Language Processing Techniques参考文献 7被引用 5

一句话总结

该论文通过结合维基百科语料库与TED平行语料库，增强了多种语言对（捷克语-英语、越南语-英语、法语-英语和德语-英语）的统计机器翻译（SMT）系统。该方法利用领域自适应、对称词对齐、无监督音译以及KenLM技术，在所有语言对上均实现了BLEU、NIST和TER得分的提升。

ABSTRACT

In this paper, we attempt to improve Statistical Machine Translation (SMT) systems on a very diverse set of language pairs (in both directions): Czech - English, Vietnamese - English, French - English and German - English. To accomplish this, we performed translation model training, created adaptations of training settings for each language pair, and obtained comparable corpora for our SMT systems. Innovative tools and data adaptation techniques were employed. The TED parallel text corpora for the IWSLT 2015 evaluation campaign were used to train language models, and to develop, tune, and test the system. In addition, we prepared Wikipedia-based comparable corpora for use with our SMT system. This data was specified as permissible for the IWSLT 2015 evaluation. We explored the use of domain adaptation techniques, symmetrized word alignment models, the unsupervised transliteration models and the KenLM language modeling tool. To evaluate the effects of different preparations on translation results, we conducted experiments and used the BLEU, NIST and TER metrics. Our results indicate that our approach produced a positive impact on SMT quality.

研究动机与目标

• 提升低资源及多样化语言对（包括捷克语-英语、越南语-英语、法语-英语和德语-英语）上的SMT性能。
• 探究基于维基百科的可比语料库对SMT系统质量的影响。
• 针对每种语言对的独特特征，调整训练配置与技术，如对称词对齐和无监督音译。
• 在IWSLT 2015评估框架下，使用标准指标（BLEU、NIST和TER）评估系统改进效果。

提出的方法

• 使用TED平行语料库进行开发、调优和测试，训练翻译模型。
• 为每种语言对创建并整合基于维基百科的可比语料库，以丰富训练数据。
• 应用领域自适应技术，使可比语料库的分布与目标翻译领域相匹配。
• 采用对称词对齐模型，以提升短语表质量与对齐鲁棒性。
• 集成无监督音译模型，以处理未登录词，尤其适用于词形复杂或低资源语言。
• 利用KenLM工具进行高效且有效的语言模型训练与解码。

实验结果

研究问题

• RQ1 在IWSLT 2015评估中，基于维基百科的可比语料库在多样化语言对上的SMT性能提升程度如何？
• RQ2 领域自适应与对称词对齐技术对不同语言对的翻译质量有何影响？
• RQ3 无监督音译对处理低资源语言对中的OOV词有何影响？
• RQ4 在无显式平行标注的情况下，可比语料库能否有效补充SMT系统中的有限平行数据？
• RQ5 这些综合技术对BLEU、NIST和TER等标准指标有何影响？

主要发现

• 基于维基百科的可比语料库的整合，在所有测试语言对上均带来了翻译质量的持续提升。
• 领域自适应技术显著提升了系统性能，通过使可比语料库的分布与目标领域相匹配。
• 对称词对齐模型有助于提升短语表学习的鲁棒性，尤其在低资源环境下表现更优。
• 无监督音译显著改善了对OOV词的处理，尤其在越南语-英语与捷克语-英语对中效果明显。
• 使用KenLM进行语言模型构建，提升了生成翻译的流畅性与恰当性。
• 总体而言，系统在BLEU、NIST和TER得分上均实现了可测量的提升，证实了所提改进方法的有效性。