[論文レビュー] Sequence-to-Sequence Neural Net Models for Grapheme-to-Phoneme Conversion

Kaisheng Yao, Geoffrey Zweig|arXiv (Cornell University)|May 31, 2015

Natural Language Processing Techniques参考文献 24被引用数 68

ひとこと要約

本稿では、アラインメント情報を活用することで、従来の最先端手法を著しく上回る、グラフムーから発音への変換（G2P）のための双方向LSTM（LSTM）ネットワークを提案する。側面条件付きのシーケンス・ツー・シーケンスモデルに双方向LSTMとアラインメントデータを組み合わせることで、CMUDictデータセット上で23.55%の語誤り率（WER）を達成し、統計的に有意な1.0パーセンテージポイントの改善を達成した。

ABSTRACT

Sequence-to-sequence translation methods based on generation with a side-conditioned language model have recently shown promising results in several tasks. In machine translation, models conditioned on source side words have been used to produce target-language text, and in image captioning, models conditioned images have been used to generate caption text. Past work with this approach has focused on large vocabulary tasks, and measured quality in terms of BLEU. In this paper, we explore the applicability of such models to the qualitatively different grapheme-to-phoneme task. Here, the input and output side vocabularies are small, plain n-gram models do well, and credit is only given when the output is exactly correct. We find that the simple side-conditioned generation approach is able to rival the state-of-the-art, and we are able to significantly advance the stat-of-the-art with bi-directional long short-term memory (LSTM) neural networks that use the same alignment information that is used in conventional approaches.

研究の動機と目的

• 側面条件付き生成を用いたシーケンス・ツー・シーケンスニューラルネットワークの、グラフムーから発音への変換（G2P）タスクへの適用可能性を評価すること。
• ニューラルネットワークベースのモデルが、従来のn-gram法や最大エントロピー法よりもG2P変換で優れた性能を発揮できるかどうかを調査すること。
• アラインメント情報の組み込みが、G2Pタスクにおけるモデル性能に与える影響を評価すること。
• 標準的な単方向またはエンコーダ・デコーダ構造と比較して、より深い構造や双方向アーキテクチャがG2Pの正確性を向上させるかどうかを特定すること。

提案手法

• 時間反転された入力を用いたエンコーダ・デコーダLSTMアーキテクチャを採用し、グラフムー入力から発音シーケンスを生成する。
• 入力のグラフムー列における過去および未来の文脈を捉えるために、双方向LSTMを用いる。
• グラフムーと発音の間のアラインメント情報を入力特徴として組み込み、モデルの予測をガイドする。
• グラフムー入力とアラインメントを条件とした発音シーケンスの条件付き確率に対して交差エントロピー損失を用いてモデルを学習する。
• より大きなビーム幅が結果を改善しなかったため、デコードにはビーム幅1のビームサーチを適用した。
• 文脈認識を向上させるために、単方向モデルでは3文字（後に6文字）の文脈窓を用いた。

実験結果

リサーチクエスチョン

• RQ1 側面条件付きシーケンス・ツー・シーケンスニューラルネットワークは、正確な発音出力を必要とし、語彙が小さいタスクとしてのG2Pタスクで競争力のある性能を達成できるか？
• RQ2 単方向またはエンコーダ・デコーダLSTMと比較して、双方向LSTMの使用がG2P性能を向上させるか？
• RQ3 アラインメント情報を組み込むことで、ニューラルネットワークベースのG2Pモデルの性能がどの程度向上するか？
• RQ4 より深いネットワークアーキテクチャ（例：3層の双方向LSTM）は、G2P変換における最先端の結果をさらに改善できるか？

主な発見

• 双方向LSTMにアラインメント情報を組み込んだモデルは、CMUDictデータセットで23.55%の語誤り率（WER）を達成し、従来の最先端の24.53% WERを著しく上回った。
• CMUDictにおける発音誤り率（PER）は5.45%に低下し、前回の最良結果である5.88%から0.43%の改善を達成した。
• NetTalkデータセットでは、双方向LSTMが30.77%のWERを達成し、従来の最良結果である33.67%より2.9パーセンテージポイントの改善を示した。
• Pronlexデータセットでは、26.69%のWERを達成し、前回の最良結果である27.33%から0.64パーセンテージポイントの改善を達成した。
• 単方向モデルにおいては、6文字の文脈窓を採用することで、28.56%のWERに改善され、エンコーダ・デコーダLSTMの結果に近づいた。
• 3層の双方向LSTMは、全体として最も優れた性能を示し、より深いアーキテクチャが双方向の文脈とアラインメント情報の恩恵を最大限に活用できることを示した。