[論文レビュー] Using external sources of bilingual information for on-the-y word alignment

Miquel Espl, Felipe A. Simão+1 more|arXiv (Cornell University)|Dec 7, 2012

Natural Language Processing Techniques参考文献 22被引用数 3

ひとこと要約

この論文は、機械翻訳システムなどの外部双方向リソースを活用する言語に依存しない単語対応付け手法を提案する。訓練にはたった450文対のゴールドスタンダードコーパスしか必要とせず、GIZA++と同等の精度を達成し、10倍のドメイン内データでトレーニングされたGIZA++と同等のF-measureを達成する。これはドメインに依存しない性能と、新しい文対への優れた一般化能力を示している。

ABSTRACT

In this paper we present a new and simple language-independent method for word-alignment based on the use of external sources of bilingual information such as machine translation systems. We show that the few parameters of the aligner can be trained on a very small corpus, which leads to results comparable to those obtained by the stateof-the-art tool GIZA++ in terms of precision. Regarding other metrics, such as alignment error rate orF -measure, the parametric aligner, when trained on a very small gold-standard (450 pairs of sentences), provides results comparable to those produced by GIZA++ when trained on an in-domain corpus of around 10,000 pairs of sentences. Furthermore, the results obtained indicate that the training is domain-independent, which enables the use of the trained aligner on the y on any new pair of sentences.

研究の動機と目的

• 大規模な並列コーパスに依存しない言語に依存しない単語対応付け手法の開発。
• 機械翻訳システムなどの外部双方向リソースが、最小限の教師あり学習で対応付け性能を向上させられるかどうかの調査。
• 対応付け器のドメインに依存しない性質の評価。再トレーニングなしで多様なテキストドメインに適用可能であることを確認。
• 大幅に少ないゴールドスタンダードトレーニングデータで、GIZA++などの最先端ツールと同等の高品質な対応付けを達成すること。

提案手法

• 対応付け器は、事前にトレーニングされた機械翻訳システムの出力——特に並列語対応の情報——を、並列語対応の出典として利用する。
• トレーニング可能なパrameterが少ないパラメトリックモデルを採用し、450文対のゴールドスタンダード対応付けデータセット上で最適化する。
• 言語に依存しない設計であり、単語の統計的パターンに依存するが、単語レベルの言語的特徴や並列文脈の特徴には依存しない。
• 外部MTシステム出力から得られる信頼度スコアと、ゴールドスタンダードデータに対する少量の教師ありチューニングを組み合わせて、対応付け意思決定を行う。
• 複雑な言語処理の前処理を回避することで、多様な言語対やドメインに広く適用可能である。
• 最終的な対応付けは、MTベースの語翻訳確率と、最小限の並列データでトレーニングされた単純な判別モデルを組み合わせて生成される。

実験結果

リサーチクエスチョン

• RQ1 機械翻訳システムなどの外部双方向リソースが、最小限の教師あり学習で単語対応付けを効果的に支援できるか。
• RQ2 大規模なドメイン内コーパスでトレーニングされたGIZA++と比較して、小規模なゴールドスタンダードコーパスでトレーニングされたパラメトリック対応付け器の性能はどの程度か。
• RQ3 最小限のドメイン特化トレーニングで、提案手法の対応付け器がどの程度異なるドメインに耐性を持つのか。
• RQ4 外部双方向情報の使用により、再トレーニングなしでドメインに依存しない単語対応付けが可能になるか。

主な発見

• 提案手法は、両者とも同じテストセットで評価された場合、GIZA++と同等の精度を達成する。
• 450文対のデータでトレーニングされた本手法のF-measure性能は、10,000文のドメイン内コーパスでトレーニングされたGIZA++と同等である。
• モデルはドメインに依存しない性能を示し、再トレーニングなしで新しい未学習ドメインにも強力な性能を維持する。
• ハイパーパrameterのチューニングが最小限で済み、言語に依存しない設計のおかげで、多様な言語対で良好に動作する。
• 外部MTシステムを双方向信号の出典として利用することで、大規模な単語対応の単語コーパスや並列コーパスの必要性が顕著に減少する。