[論文レビュー] When to Finish? Optimal Beam Search for Neural Text Generation (modulo beam size)

Liang Huang, Kai Zhao+1 more|arXiv (Cornell University)|Aug 31, 2018

Natural Language Processing Techniques被引用数 5

ひとこと要約

この論文は、神経的テキスト生成のための証明可能に最適なビームサーチアルゴリズムを提案し、ビームサーチをいつ終了させるかを動的に決定することで、ビームサイズに依存する最高スコアの完全な仮説を保証する。無駄な計算を避けるとともに、神経モデルが過度に短い出力を生成する傾向を是正するための上限付き長さ報酬機構を導入し、長さ正則化が施された状態でも最適な性能を発揮する。機械翻訳タスクにおいて、既存手法と比較して一貫したBLEUスコアの向上を示している。

ABSTRACT

In neural text generation such as neural machine translation, summarization, and image captioning, beam search is widely used to improve the output text quality. However, in the neural generation setting, hypotheses can finish in different steps, which makes it difficult to decide when to end beam search to ensure optimality. We propose a provably optimal beam search algorithm that will always return the optimal-score complete hypothesis (modulo beam size), and finish as soon as the optimality is established (finishing no later than the baseline). To counter neural generation's tendency for shorter hypotheses, we also introduce a bounded length reward mechanism which allows a modified version of our beam search algorithm to remain optimal. Experiments on neural machine translation demonstrate that our principled beam search algorithm leads to improvement in BLEU score over previously proposed alternatives.

研究の動機と目的

• 既存の神経的テキスト生成におけるビームサーチ戦略に理論的最適性が欠如している問題に対処すること。特に、仮説が異なる段階で終了する場合があること。
• 仮説の終了タイミングに関係なく、最適スコアの完全な仮説を返すビームサーチアルゴリズムを開発すること。
• 最適性と長さ正則化または長さ報酬の必要性との間にある矛盾を解消すること。これらは通常、最適ビームサーチを無効にする。
• 最適性を保ちつつ、過度に短い仮説の生成を是正する上限付き長さ報酬機構を導入すること。
• 提案手法をニューラル機械翻訳タスクにおいて実証的に検証し、強力なベースラインを上回るBLEUスコアの向上を示すこと。

提案手法

• ビームサイズbを維持し、すべての段階で最高スコアの完全な仮説を動的に追跡するビームサーチの変種を提案。早期終了を避けることで最適性を保証する。
• 最高スコアの完全な仮説が、最高スコアの不完全な仮説のスコアに基づいて、今後も上回られることのない条件を満たしているかどうかをチェックする終了条件を導入。
• 報酬が最大閾値まで適用される上限付き長さ報酬機構を用い、ビームサーチアルゴリズムの最適性を保持する。
• 事前に定義された値までに制限される長さに基づく報酬を仮説スコア関数に組み込み、短いシーケンスの過剰なペナルティを防ぐ。
• 動的停止ルールを採用：最高スコアの完全な仮説が、不完全な仮説の拡張によって上回られることのない場合にのみビームサーチを終了する。
• 上限付き長さ報酬をビームサーチスコア関数に統合し、スコアの伝搬とプルーニングを慎重に処理することで、アルゴリズムの理論的最適性を維持する。

実験結果

リサーチクエスチョン

• RQ1 仮説が異なる段階で終了する場合でも、最適スコアの完全な仮説を返すことができるビームサーチアルゴリズムを設計できるか？
• RQ2 神経的テキスト生成における過度に短い出力生成という一般的な問題に対処しつつ、ビームサーチを最適化できるか？
• RQ3 ビームサーチに長さ正則化や長さ報酬を適用することは、本質的に最適性を損なうものか？ もしそうであれば、どのように是正できるか？
• RQ4 最適性を保ちつつ、生成出力の流暢さと長さを向上させる上限付き長さ報酬機構を設計できるか？
• RQ5 上限付き長さ報酬を組み込んだ最適ビームサーチの実証的影響は、ニューラル機械翻訳における標準評価指標（BLEU）にどのような影響を与えるか？

主な発見

• 提案された最適ビームサーチアルゴリズムは、ビームサイズ15でグリーディサーチ（ビームサイズ1）と比較して+5.0 BLEUの向上を達成し、すべてのベースラインを上回った。
• テストセットでは、ビームサイズ15、長さ報酬r=1.2の設定で30.61 BLEUを達成し、OpenNMT-pyのデフォルトビームサーチ（29.75 BLEU）と長さ報酬付きのシュリンクビーム法（30.37 BLEU）を上回った。
• 純粋な最適ビームサーチでは、ビームサイズ4を超えると極端に短い翻訳が生成されるため性能が低下するため、長さ正則化の必要性が明確になった。
• r=1.2、b=15の上限付き長さ報酬機構が最良のパフォーマンスを発揮し、長さ比0.97を示しており、最適性を損なわず、流暢さが向上した。
• この手法は、強力なMoses SMTシステム（29.41 BLEU）とRNNsearchベースライン（30.70 BLEU）をも上回り、ニューラル生成分野における優位性を示した。
• OpenNMT-pyのベースラインビームサーチコードに独立したバグ修正が発見され、すべての設定で+0.7のBLEU向上が得られた。これにより、提案手法の堅牢性がさらに裏付けられた。