[論文レビュー] wubi2en: Character-level Chinese-English Translation through ASCII Encoding.

Mi Xue Tan, Yuhuang Hu+2 more|arXiv (Cornell University)|May 9, 2018

Natural Language Processing Techniques被引用数 5

ひとこと要約

本稿では、中国語の漢字をWubi入力法を用いて符号化することで、中国語の漢字と部分語に類似した単位との間の体系的対応を構築する、文字レベルの中国語-英語ニューラル機械翻訳モデルwubi2enを紹介する。Wubiによる漢字の部品への分解を活用することで、RNNおよびCNNアーキテクチャの両方を用いた効果的な文字レベル翻訳が可能となり、中国語-英語翻訳タスクで優れた性能を達成する。

ABSTRACT

Character-level Neural Machine Translation (NMT) models have recently achieved impressive results on many language pairs. They particularly do well for Indo-European language pairs, where the languages share the same writing system. However, for translating between Chinese and English, the gap between the two different writing systems poses a major challenge due to a lack of systematic correspondence between the individual linguistic units. In this paper, we enable character-level NMT for Chinese, by breaking down Chinese characters to linguistic units similar to that of Indo-European languages using the Wubi encoding scheme. We show promising results from training Wubi-based models on the subword- and character-level with recurrent as well as convolutional models.

研究の動機と目的

• 中国語と英語の間の翻訳の課題に取り組む。これは、両者の表記体系間に体系的な対応が欠如しているためである。
• 中国語の文字レベルNMTを適用する困難を克服するため、意味のある言語的単位への構造的な分解を導入する。
• Wubi符号化方式を用いて中国語の漢字を部分語に類似した表現にマッピングすることで、効果的な文字レベル翻訳を実現する。
• Wubiベースの符号化が、低リソース言語対や文字レベル翻訳設定におけるニューラル機械翻訳の性能向上に寄与するかを評価する。
• Wubi符号化を用いた文字レベルモデルが、部分語レベルモデルと同等の性能を中国語-英語翻訳で達成できることを示す。

提案手法

• Wubi入力法を用いて中国語の漢字をその構成要素である筆画に基づく部品に分解し、漢字の体系的でルールベースの表現を生成する。
• 各Wubi部品を部分語に類似した単位として扱い、モデルが全体の漢字よりも細かく粒度の高いレベルで中国語の漢字を処理できるようにする。
• RNNおよびCNNアーキテクチャを、Wubi符号化済みの文字列に対して、エンドツーエンドの中国語-英語翻訳のために訓練する。
• Wubi符号化表現を文字レベルNMTフレームワークに統合し、中国語の漢字部品と英語の語との間のアライメントを学習できるようにする。
• Wubi符号化入力シーケンスに対して、標準的なNMTトレーニング手順（アテンション機構やビームサーチデコードを含む）を適用する。
• 中国語-英語翻訳ベンチマークにおいて、Wubiベースのモデルと標準の部分語レベルおよび文字レベルベースラインとの性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 Wubi符号化は、ニューラル機械翻訳における中国語の漢字と部分語レベル表現との間のブリッジとして効果的に機能するか？
• RQ2 Wubiベースの文字レベル翻訳は、標準の部分語レベルおよび文字レベルNMTモデルと比較して、翻訳品質においてどのように異なるか？
• RQ3 RNNおよびCNNアーキテクチャは、中国語-英語翻訳において、Wubi符号化入力からどれほど恩恵を受けるか？
• RQ4 Wubiによる中国語の漢字の体系的分解は、翻訳のための意味的な言語的単位を学習する能力を向上させるか？
• RQ5 Wubiベースの符号化は、中国語-英語のような低リソース言語対における文字レベルNMTのデータスパarsity問題を軽減できるか？

主な発見

• Wubiベースの文字レベルモデルは、中国語の漢字の体系的分解が有効な文字レベルNMTを可能にすることを示しており、競争力ある翻訳性能を達成している。
• RNNおよびCNN両アーキテクチャがWubi符号化入力から恩恵を受けており、標準の文字レベルモデルよりも一貫した改善が見られた。
• Wubi符号化方式は、部分語に類似した単位として中国語の漢字を安定的かつ解釈可能な方法で表現でき、英語の語とのより良いアライメントを促進する。
• モデルは中国語-英語翻訳タスクにおいて有望な結果を示しており、Wubi符号化が中国語と英語の表記体系の間の体系的対応の欠如を効果的に緩和していることが示された。
• このアプローチにより、中国語-英語翻訳のためのエンドツーエンドの文字レベルNMTモデルの訓練が可能となり、外部の部分語セグメンテーションツールを必要とせずに強力な結果が得られた。