[論文レビュー] Diverse Beam Search: Decoding Diverse Solutions from Neural Sequence Models

Ashwin K. Vijayakumar, Michael Cogswell+5 more|arXiv (Cornell University)|Oct 7, 2016

Multimodal Machine Learning Applications参考文献 18被引用数 358

ひとこと要約

Diverse Beam Search (DBS) は、多様性を付加した目的関数を用いることで多様な出力セットをデコードし、標準ビーム探索と比較してオーバーヘッドを最小限に抑えつつトップ1解を改善し、複数のタスクで向上させます。

ABSTRACT

Neural sequence models are widely used to model time-series data. Equally ubiquitous is the usage of beam search (BS) as an approximate inference algorithm to decode output sequences from these models. BS explores the search space in a greedy left-right fashion retaining only the top-B candidates - resulting in sequences that differ only slightly from each other. Producing lists of nearly identical sequences is not only computationally wasteful but also typically fails to capture the inherent ambiguity of complex AI tasks. To overcome this problem, we propose Diverse Beam Search (DBS), an alternative to BS that decodes a list of diverse outputs by optimizing for a diversity-augmented objective. We observe that our method finds better top-1 solutions by controlling for the exploration and exploitation of the search space - implying that DBS is a better search algorithm. Moreover, these gains are achieved with minimal computational or memory over- head as compared to beam search. To demonstrate the broad applicability of our method, we present results on image captioning, machine translation and visual question generation using both standard quantitative metrics and qualitative human studies. Further, we study the role of diversity for image-grounded language generation tasks as the complexity of the image changes. We observe that our method consistently outperforms BS and previously proposed techniques for diverse decoding from neural sequence models.

研究の動機と目的

• 従来のビーム探索を超えたニューラル系列デコーディングにおける出力多様性を捉える必要性を動機づける。
• 多様性を付加したデコーディング手法として Diverse Beam Search (DBS) を紹介する。
• DBS は複数のタスクで BS とほぼ同等の計算コストを維持しつつトップ1の性能を改善することを示す。

提案手法

• デコード中に多様な候補系列を促す多様性を付加した目的を提案する。
• 近似的重複出力ではなく複数の多様な仮説を選択するビーム探索風の手法を維持する。
• 画像キャプション生成、機械翻訳、視覚的質問生成への適用性を実証する。
• 標準的な定量的指標と定性的な人間研究を用いて評価する。
• 多様性が言語生成に与える影響を、画像の複雑さが変化するにつれて分析する。

実験結果

リサーチクエスチョン

• RQ1 多様性を付加したデコードは、標準のビーム探索よりもより多様で潜在的により良いトップ1出力を生み出すことができるか？
• RQ2 DBS は結果を改善しつつビーム探索と同様の計算・メモリオーバーヘッドを維持するか？
• RQ3 画像キャプション生成、機械翻訳、視覚的質問生成において出力の多様性は性能にどう影響するか？
• RQ4 画像の複雑さが多様なデコードの有用性に与える影響は？

主な発見

• DBS は、タスクを横断して標準のビーム探索および従来の多様なデコード手法を一貫して上回る。
• DBS は追加の計算またはメモリオーバーヘッドを最小限に抑えつつ、多様な解の仮説を提供する。
• DBS は画像キャプション生成、機械翻訳、視覚的質問生成においてトップ1の品質を改善する。
• 多様性は、画像の複雑さが増すにつれて言語生成に影響を与える役割を持ち、DBS はこれを効果的に管理する。
• 結果は定量的指標と定性的な人間研究の両方で裏付けられている。