[論文レビュー] Response Generation with Context-Aware Prompt Learning

Xiaodong Gu, Kang Min Yoo+1 more|arXiv (Cornell University)|Nov 4, 2021

Topic Modeling参考文献 26被引用数 13

ひとこと要約

本稿では、会話文脈に応じて動的にプロンプト埋め込みを生成する文脈に配慮したプロンプト学習フレームワーク、DialogPromptを提案する。この手法により、ファインチューニングを伴わずに大規模事前学習言語モデルが、より高品質で情報豊かな応答を生成できるようになる。自動評価および人的評価の両方において、ファインチューニングベースラインおよび一般的なプロンプト学習手法を上回る性能を示した。

ABSTRACT

Pre-trained language models (PLM) have marked a huge leap in neural dialogue modeling. While PLMs are pre-trained on large-scale text corpora, they are usually fine-tuned on scarce dialogue data with specific domain knowledge and dialogue styles. However, tailoring the language models while fully utilizing prior knowledge in large pre-trained models remains a challenge. In this paper, we present a novel approach for pre-trained dialogue modeling that casts the dialogue generation problem as a prompt-learning task. Instead of fine-tuning on limited dialogue data, our approach, DialogPrompt, learns continuous prompt embeddings optimized for dialogue contexts, which appropriately elicit knowledge from the large pre-trained model. To encourage the model to better utilize the prompt embeddings, the prompt encoders are designed to be dynamically generated based on the dialogue context. Experiments on popular conversation datasets show that our approach significantly outperforms the fine-tuning baseline and the generic prompt-learning methods. Furthermore, human evaluations strongly support the superiority of DialogPrompt in regard to response generation quality.

研究の動機と目的

• 少ない会話データに対するファインチューニングにおける事前学習言語モデル知識の再利用が制限されることに起因する課題に対処すること。
• 一般的なプロンプト学習の限界を克服すること。特に、静的プロンプトでは文脈に依存する応答の依存関係を捉えきれない点。
• 文脈に配慮したプロンプト埋め込みを生成する動的プロンプトエンコーダーを設計し、事前学習モデルから知識をより効果的に引き出すこと。
• 主モデルのパラメータを凍結し、プロンプト埋め込みのみを最適化することで、小規模な会話データセットにおける過学習を低減し、応答生成の品質を向上させること。

提案手法

• DialogPromptは、応答生成の前に会話文脈に注目することで、文脈に配慮したプロンプト埋め込みを生成する動的プロンプトエンコーダーを導入する。
• モデルは、入力された会話文脈の前に学習済みのプロンプトトークンを付加し、そのプロンプト埋め込みは、Transformerベースのエンコーダーを介して文脈の隠れ状態に条件付けられる。
• 事前学習言語モデルのパラメータを凍結したまま、プロンプト埋め込みをエンドツーエンドで最適化することで、少数の例やゼロショットの適応が可能になる。
• 動的プロンプトエンコーダーは、文脈表現を用いて、個別化されたプロンプト活性化を生成し、文脈の関連性と応答の情報性を向上させる。
• モデル全体をファインチューニングする代わりに、最適化された文脈固有のプロンプトで事前学習モデルの内部知識を誘導することで、その知識の再利用を促進する。
• 本手法はGPT-2ベースのモデルに適用され、DailyDialogおよびMultiWOZデータセットを用いて自動指標と人的評価で評価された。

実験結果

リサーチクエスチョン

• RQ1 ファインチューニングを伴わずに、プロンプト学習を会話生成に効果的に適応させ、応答品質を向上させることができるか？
• RQ2 マルチターン会話設定において、文脈に配慮したプロンプト学習は、静的または汎用的プロンプト学習と比較してどのように差がつくか？
• RQ3 動的プロンプトエンコーダーは、事前学習言語モデルの知識再利用をどの程度向上させられるか？
• RQ4 プロンプトベースのアプローチは、応答の一貫性、情報性、および流暢さの観点で、ファインチューニングを上回るか？

主な発見

• 自動評価指標（BLEU、ROUGE、FID）において、DailyDialogおよびMultiWOZデータセットの両方で、DialogPromptはファインチューニングベースラインを顕著に上回った。
• 人的評価では、ファインチューニングおよび一般的なプロンプト学習手法と比較して、DialogPromptがより情報豊かで、流暢で、文脈的に適切な応答を生成することが確認された。
• 事例研究では、DialogPromptが「Imperial Porter」や「standard beer」など、具体的かつドメインに適した詳細を生成し、ベースラインと比較して知識の活用が優れていた。
• p-tuning や prefix-tuning よりも、DialogPromptはより長く、より一貫性のある応答を生成した。p-tuning や prefix-tuning はしばしば「Pardon?」「I’t think」のような短いまたは一貫性のない出力を生成した。
• 人的評価では、情報性スコアが高く、応答に「time-consuming」や「business」、「car accident」などの関連キーワードが文脈的に適切に含まれていた。
• 動的プロンプトエンコーダーにより、文脈への適応性が向上し、p-tuningが生成する「I’t think」のような誤りを伴う誤りの少ない、より流暢で文法的に正しい応答が得られた。