[論文レビュー] Focused Hierarchical RNNs for Conditional Sequence Processing

Nan Rosemary Ke, Konrad Żołna+7 more|arXiv (Cornell University)|Jun 12, 2018

Topic Modeling参考文献 30被引用数 14

ひとこと要約

本論文は、質問応答タスクにおける関連する入力セグメントを的確に符号化するために、離散的で文脈に依存するゲーティング機構を用いた焦点的な階層的RNN（FHE）を提案する。ポリシー勾配法を用いてゲートを学習し、高レベル表現に対するソフトアテンションを適用することで、MS MARCOおよびSearchQAで最先端の性能を達成し、強力なベースラインと比較して一般化性能と回答品質の面で顕著な向上を示した。

ABSTRACT

Recurrent Neural Networks (RNNs) with attention mechanisms have obtained state-of-the-art results for many sequence processing tasks. Most of these models use a simple form of encoder with attention that looks over the entire sequence and assigns a weight to each token independently. We present a mechanism for focusing RNN encoders for sequence modelling tasks which allows them to attend to key parts of the input as needed. We formulate this using a multi-layer conditional sequence encoder that reads in one token at a time and makes a discrete decision on whether the token is relevant to the context or question being asked. The discrete gating mechanism takes in the context embedding and the current hidden state as inputs and controls information flow into the layer above. We train it using policy gradient methods. We evaluate this method on several types of tasks with different attributes. First, we evaluate the method on synthetic tasks which allow us to evaluate the model for its generalization ability and probe the behavior of the gates in more controlled settings. We then evaluate this approach on large scale Question Answering tasks including the challenging MS MARCO and SearchQA tasks. Our models shows consistent improvements for both tasks over prior work and our baselines. It has also shown to generalize significantly better on synthetic tasks as compared to the baselines.

研究の動機と目的

• 質問や文脈に応じて関連する入力セグメントにのみ注目できるように、RNNエンコーダーのシーケンスモデリングを向上させること。
• 階層的RNNアーキテクチャ内で、語レベルから概念レベルの表現への情報フローを制御する離散的かつ確率的なゲーティング機構を構築すること。
• 強化学習（ポリシー勾配法）を用いてゲーティング機構を学習し、下流タスクの性能最適化を図ること。
• 合成タスクと実世界のQAベンチマーク（MS MARCOおよびSearchQAを含む）において、モデルの一般化性能とアテンション挙動を評価すること。
• 構造的で文脈に配慮した符号化を可能にすることで、スパンベースのQAモデルと生成型QAモデルの間のギャップを埋め、より優れた回答一般化を実現すること。

提案手法

• モデルは2層のLSTMアーキテクチャを採用：下位層は入力トークンを逐次処理し、上位層は関連する部分列の高レベル表現を捉える。
• 現在の下位層の隠れ状態と質問の埋め込みに基づいて、入力の現在のトークングループの要約を上位層LSTMに更新するタイミングを決定する条件付き境界ゲートを導入。
• タスク報酬（例：BLEUまたはROUGEスコア）を最大化するように、ポリシー勾配法を用いてゲートを学習することで、選択的アテンションのエンドツーエンド学習を可能にする。
• ゲートが開いている場合にのみ、上位層LSTMの状態が更新され、文脈に応じた関連情報のグループ化と圧縮が可能になる。
• 回答生成のために上位層の隠れ状態に対してソフトアテンションを適用することで、文書の重要部分に動的に注目できる。
• 大規模データセット（MS MARCOなど）における低頻度語の生成を改善するため、ポインタ-ソフトマックス機構を統合する。

実験結果

リサーチクエスチョン

• RQ1 離散的で文脈に依存するゲーティング機構は、シーケンスモデリングタスクにおけるRNNエンコーダーの関連入力セグメントへの注目能力を向上させることができるか？
• RQ2 ポリシー勾配法でゲーティング機構を学習することで、入力出力関係が制御された合成タスクにおける一般化性能が向上するか？
• RQ3 焦点的な階層的エンコーダーは、MS MARCOやSearchQAといった大規模で実世界のQAベンチマークでどの程度性能を向上させるか？
• RQ4 学習された境界とアテンション機構は、標準的なアテンション機構と比較して、回答品質と一般化性能にどのように寄与するか？
• RQ5 構造的符号化を備えた生成型QAモデルは、標準的なメトリクスで強い性能を維持しつつ、回答一般化の面でスパンベースのモデルを上回ることができるか？

主な発見

• MS MARCOデータセットにおいて、本モデルはすべての競合手法を上回り、BLEU-1およびROUGE-Lスコアの両面で最先端の結果を達成した。
• SearchQAベンチマークでは、最近の手法（Buckら、2018年）を含む先行研究を著しく上回った。
• アブレーションスタディの結果、質問と文脈の埋め込みの要素ごとの積が最も大きな性能向上をもたらしたことが判明し、文脈統合の重要性が強調された。
• ポインタ-ソフトマックス機構は、特にMS MARCOの語彙の約90％を占める低頻度語の処理において、性能向上に顕著な寄与を示した。
• 学習された境界機構は性能にとって不可欠であり、これを除去すると精度が著しく低下し、構造的符号化におけるその役割が裏付けられた。
• 人間による評価では、63％の被験者が本モデルが生成した回答を強力なLSTMベースラインの回答よりも好んだことから、回答品質と一貫性の向上が示された。