[論文レビュー] Reordering rules for English-Hindi SMT

Raj Nath Patel, Rohit Gupta+2 more|arXiv (Cornell University)|Oct 24, 2016

Natural Language Processing Techniques参考文献 21被引用数 16

ひとこと要約

本稿では、英語-ヒンディー語のフレーズベースSMTにおける構文的再順序付けルールの豊富なセットを提案し、英語の構文解析木をヒンディー語のSOVおよび後置修飾語順に合わせて再構成する。スタンフォードの構文解析と手動によるルール抽出を用い、フレーズテーブルの品質と翻訳性能を向上させ、MOSESツールキットを用いた実験で、ベースラインおよび先行の再順序付け手法と比較してBLEU（+4.8）、NIST、mWER/mPERスコアに顕著な向上を達成した。

ABSTRACT

Reordering is a preprocessing stage for Statistical Machine Translation (SMT) system where the words of the source sentence are reordered as per the syntax of the target language. We are proposing a rich set of rules for better reordering. The idea is to facilitate the training process by better alignments and parallel phrase extraction for a phrase-based SMT system. Reordering also helps the decoding process and hence improving the machine translation quality. We have observed significant improvements in the translation quality by using our approach over the baseline SMT. We have used BLEU, NIST, multi-reference word error rate, multi-reference position independent error rate for judging the improvements. We have exploited open source SMT toolkit MOSES to develop the system.

研究の動機と目的

• 英語とヒンディー語の間の構造的乖離に起因する語順の不一致が正確な翻訳を妨げるという課題に対処すること。
• トレーニングおよびデコードの前処理段階として、構文的再順序付けルールを用いてソース文を事前に処理することで、フレーズテーブルの品質と整合性を向上させること。
• デコードの複雑さを低減し、より長い、より正確な翻訳フレーズを捉える可能性を高めることで、翻訳品質を向上させること。
• 標準的なMTメトリクス（BLEU、NIST、mWER、mPER）を用いて、より包括的なルールセットの影響を、複数のシステム構成において評価すること。
• 類似した構文的構造を有する他の英語-インド諸言語ペアにも適用可能な再利用可能なフレームワークを確立すること。

提案手法

• 英語文のスタンフォード構文解析木に、ヒンディー語のSOVおよび後置修飾語順に適合する手動で導出された構文的変換ルールを適用し、語順を再構成すること。
• トレーニングおよびデコードの両段階で同じ再順序付けルールを用いることで一貫性を確保し、再順序付けをフレーズベースSMTパイプラインの前処理段階として扱うこと。
• MOSESツールキットを用いてシステムのトレーニング、チューニング、デコードを実施し、GIZA++を用いて語の対応付け、KenLMを用いて5-gram Kneser-Neyスムージングを施した言語モデルを構築した。
• ソース解析木とそれに対応するヒンディー語翻訳の手動分析を通じて、基本的なSVOからSOVへのシフトを超える一般的な変換を焦点に、再順序付けルールを抽出すること。
• フレーズテーブル統計（例：異なるフレーズ数、IOBLの増加）を測定することで、整合性の質とモデルのカバレッジを評価すること。
• 標準的なMT評価メトリクス（BLEU、NIST、多参照語誤り率（mWER）、多参照位置非依存誤り率（mPER））を用いること。

実験結果

リサーチクエスチョン

• RQ1 より包括的な構文的再順序付けルールの適用が、英語-ヒンディー語SMTにおけるフレーズテーブルの品質と翻訳性能を向上させるか？
• RQ2 ターゲット言語の文法構造に基づく再順序付けは、デコードの複雑さをどの程度低減させ、整合性の高い対応付けを実現するか？
• RQ3 ベースラインシステム、限定的再順序付けシステム、および提案された改善済み再順序付けシステムの間で、BLEU、NIST、mWER、mPERスコアはどのように比較されるか？
• RQ4 提案された再順序付けアプローチは、類似した構文的構造を有する他の英語-インド諸言語ペアへ一般化可能か？
• RQ5 再順序付けは、フレーズテーブルにおける異なるフレーズの数およびフレーズ長の分布にどのような影響を与えるか？

主な発見

• 提案された再順序付けアプローチは、ベースラインシステムに対して+4.8のBLEUポイント向上を達成し、BLEUは21.55から26.35に上昇した。
• NISTスコアも顕著に向上し、n-gramの精度と文の流暢さの観点から翻訳品質の向上を示した。
• 多参照語誤り率（mWER）および多参照位置非依存誤り率（mPER）の両方が低下し、翻訳誤りの削減が確認された。
• トレーニングデータから抽出された異なるフレーズの数が顕著に増加したが、特に長いフレーズ（例：フレーズ長2において、改善されたアプローチではベースライン比で+21.72%のIOBL上昇）で顕著であった。
• 長いフレーズにおけるIOBLの増加率が高かったため、再順序付けにより、より長い、意味のある翻訳ユニットの抽出が促進されたことが示された。
• 異なるフレーズの増加が全フレーズ数の増加を上回ったため、フレーズテーブルの冗長性が低下し、より一貫性があり信頼性の高い語の対応付けが実現したと示唆された。