[論文レビュー] PJAIT Systems for the IWSLT 2015 Evaluation Campaign Enhanced by Comparable Corpora

Krzysztof Wołk, Krzysztof Marasek|arXiv (Cornell University)|Dec 5, 2015

Natural Language Processing Techniques参考文献 7被引用数 5

ひとこと要約

この論文は、Czech-English、Vietnamese-English、French-English、German-Englishの多様な言語対に対して、統計的機械翻訳（SMT）システムの性能を向上させるために、TED並列コーパスに加えてWikipediaベースの類似コーパスを統合している。アプローチはドメイン適応、対称化語のアライメント、非教師付き表記変換、KenLMを活用しており、すべての言語対でBLEU、NIST、TERスコアの向上を達成した。

ABSTRACT

In this paper, we attempt to improve Statistical Machine Translation (SMT) systems on a very diverse set of language pairs (in both directions): Czech - English, Vietnamese - English, French - English and German - English. To accomplish this, we performed translation model training, created adaptations of training settings for each language pair, and obtained comparable corpora for our SMT systems. Innovative tools and data adaptation techniques were employed. The TED parallel text corpora for the IWSLT 2015 evaluation campaign were used to train language models, and to develop, tune, and test the system. In addition, we prepared Wikipedia-based comparable corpora for use with our SMT system. This data was specified as permissible for the IWSLT 2015 evaluation. We explored the use of domain adaptation techniques, symmetrized word alignment models, the unsupervised transliteration models and the KenLM language modeling tool. To evaluate the effects of different preparations on translation results, we conducted experiments and used the BLEU, NIST and TER metrics. Our results indicate that our approach produced a positive impact on SMT quality.

研究の動機と目的

• 低リソースおよび多様な言語対（Czech-English、Vietnamese-English、French-English、German-English）におけるSMTパフォーマンスの向上を目的とする。
• 特にWikipediaベースのコレクションを含む類似コーパスがSMTシステムの品質に与える影響を調査すること。
• 語彙的特徴や言語特性に応じて、対称化語アライメントや非教師付き表記変換といった訓練設定や技術を各言語対に適応すること。
• IWSLT 2015の評価フレームワークに従い、標準的な指標（BLEU、NIST、TER）を用いてシステム改善を評価すること。

提案手法

• 開発・チューニング・テスト用に、TED並列コーパスを用いて翻訳モデルを訓練する。
• 各言語対に対してWikipediaベースの類似コーパスを作成・統合し、訓練データを豊かにする。
• 類似データの分布をターゲット翻訳ドメインと一致させるためにドメイン適応技術を適用する。
• フレーズテーブルの品質とアライメントのロバスト性を向上させるために、対称化語アライメントモデルを採用する。
• 特に語形変化が複雑またはリソースが少ない言語においても、未知語（OOV）を効果的に処理できるように、非教師付き表記変換モデルを統合する。
• 効率的かつ効果的な言語モデルの訓練とデコードに、KenLMツールを活用する。

実験結果

リサーチクエスチョン

• RQ1 IWSLT 2015の評価において、Wikipediaベースの類似コーパスは多様な言語対におけるSMTパフォーマンスにどの程度向上効果をもたらすか？
• RQ2 ドメイン適応および対称化語アライメント技術は、異なる言語対において翻訳品質にどのように影響を与えるか？
• RQ3 非教師付き表記変換は、リソースが少ない言語対におけるOOV語の処理にどのような影響を及ぼすか？
• RQ4 明示的な並列アノテーションがなくても、類似コーパスがSMTシステムにおける限られた並列データを効果的に補完できるか？
• RQ5 複数の技術を統合した場合、BLEU、NIST、TERといった標準指標にどのような影響を与えるか？

主な発見

• Wikipediaベースの類似コーパスの統合により、全テスト言語対で翻訳品質が一貫して向上した。
• ドメイン適応技術により、類似データの分布をターゲットドメインと一致させたことで、システム性能が顕著に向上した。
• 対称化語アライメントモデルは、特にリソースが少ない環境下でも、よりロバストなフレーズテーブル学習に貢献した。
• 非教師付き表記変換により、特にVietnamese-EnglishおよびCzech-English対においてOOV語の処理が改善された。
• 言語モデルとしてKenLMを用いることで、生成翻訳の流暢さと適切さが向上した。
• 全体として、BLEU、NIST、TERスコアに顕著な向上が見られ、提案手法の有効性が確認された。