[論文レビュー] Improving English to Sinhala Neural Machine Translation using Part-of-Speech Tag

Ravinga Perera, Thilakshi Fonseka+2 more|arXiv (Cornell University)|Feb 17, 2022

Natural Language Processing Techniques被引用数 4

ひとこと要約

本稿では、変換器モデルの入力埋め込みおよび位置エンコーディングに品詞（POS）タグを統合することで、英語→僧伽羅語ニューラル機械翻訳（NMT）の性能を向上させる手法を提案する。最も優れた性能を示したモデルは、サブワード埋め込みとPOS埋め込みを連結するもので、BLEUスコアが30.84を記録し、ベースラインより0.92高い。これは、低リソース環境においても言語的特徴が翻訳品質を向上させることを示している。

ABSTRACT

The performance of Neural Machine Translation (NMT) depends significantly on the size of the available parallel corpus. Due to this fact, low resource language pairs demonstrate low translation performance compared to high resource language pairs. The translation quality further degrades when NMT is performed for morphologically rich languages. Even though the web contains a large amount of information, most people in Sri Lanka are unable to read and understand English properly. Therefore, there is a huge requirement of translating English content to local languages to share information among locals. Sinhala language is the primary language in Sri Lanka and building an NMT system that can produce quality English to Sinhala translations is difficult due to the syntactic divergence between these two languages under low resource constraints. Thus, in this research, we explore effective methods of incorporating Part of Speech (POS) tags to the Transformer input embedding and positional encoding to further enhance the performance of the baseline English to Sinhala neural machine translation model.

研究の動機と目的

• 文法的乖離と限定的な並列コーパスの影響により、英語→僧伽羅語NMTの翻訳性能が低いという問題に対処すること。
• 低リソース言語対において、品詞（POS）タギングを統合することで翻訳品質が向上するかどうかを調査すること。
• 2つの異なる統合手法の評価：(1) 入力表現におけるPOS埋め込み、(2) 位置エンコーディングにおけるPOS情報の統合。
• 政府文書を並列コーパスとして用いて、ドメイン特化型NMTシステムを開発すること。
• 僧伽羅語のような低リソースで屈曲的特徴を持つ言語において、POS統合NMTのベンチマークを確立すること。

提案手法

• ベースNMTモデルとして変換器アーキテクチャを採用し、サブワード埋め込みとPOS埋め込みを連結することで入力埋め込みを拡張する。
• 英語の全訓練・検証・テストデータセットに対して、スタンフォードPOSタガーを用いて品詞タグを付与する。
• 2つの統合戦略を評価する：(1) POS埋め込みを入力埋め込みに統合する方法、(2) 位置エンコーディングにPOS情報を組み込む方法。
• すべてのデータセットにバイトペア符号化（BPE）を適用し、未知語や希少語の処理を行う。
• ハイパーパrameterはベースラインモデルと同一に保ち、POS統合の影響を明確に分離する。
• 最適化にはAdamを使用し、標準的な学習率を設定し、ビームサーチデコード（ビームサイズ=5、長さペナルティ=1.2）を実行する。

実験結果

リサーチクエスチョン

• RQ1 変換器NMTモデルの入力埋め込みに品詞（POS）タグを統合することで、低リソース言語対（英語→僧伽羅語）における翻訳品質が向上するか？
• RQ2 屈曲的で低リソースな言語において、位置エンコーディングにPOS情報を統合することは、NMT性能を向上させるか、悪化させるか？
• RQ3 低リソースNMTシステムにおける既存の言語的特徴統合手法と比較して、POS統合によるBLEUスコア向上はどの程度か？
• RQ4 変換器フレームワーク内での異なる統合戦略において、POS統合による性能向上は一貫しているか？
• RQ5 政府文書から得たドメイン特化型並列コーパスは、僧伽羅語向けのPOS拡張NMT学習を有効に支援できるか？

主な発見

• 入力埋め込みにPOSタグを統合したモデルは、BLEUスコア30.84を達成し、ベースラインの29.92よりも0.92高い。
• 位置エンコーディングにPOS情報を統合したモデルは、ベースラインを下回り、BLEUスコア28.75を記録した。これは、元の位置情報が破壊されている可能性を示している。
• 低リソースNMTの文脈において、POS統合による向上は顕著であり、通常は微小な向上にとどまるが、本研究では顕著な改善が得られた。
• 最も優れた性能を示したモデルは、テストセットの定性的な例から、より正確で文脈的に適切な僧伽羅語翻訳を生成した。
• POSタギングにより語の意味の曖昧さ（例：'book' が名詞か動詞か）が解消され、ターゲット言語における語形の整合性が向上した。
• 言語的特徴、特にPOSタグが、限定的な並列データでもNMT性能を効果的に向上させられることを確認した。