[論文レビュー] Hello, It's GPT-2 -- How Can I Help You? Towards the Use of Pretrained Language Models for Task-Oriented Dialogue Systems

Paweł Budzianowski, Ivan Vulić|arXiv (Cornell University)|Jul 12, 2019

Topic Modeling被引用数 9

ひとこと要約

本稿では、明示的な対話管理および生成モジュールを回避し、rawテキスト入力を完全に活用して応答を生成するように微調整されたGPT-2モデルを用いたタスク指向対話システムを提案する。自動評価指標は強力なニューラルベースラインをやや下回るが、人的評価では応答品質に有意差がなく、大規模な事前学習言語モデルを用いたゼロショットまたはフェイワショットの適応が、最小限のアーキテクチャ的変更で多様なドメインに適用可能であることを示している。

ABSTRACT

Data scarcity is a long-standing and crucial challenge that hinders quick development of task-oriented dialogue systems across multiple domains: task-oriented dialogue models are expected to learn grammar, syntax, dialogue reasoning, decision making, and language generation from absurdly small amounts of task-specific data. In this paper, we demonstrate that recent progress in language modeling pre-training and transfer learning shows promise to overcome this problem. We propose a task-oriented dialogue model that operates solely on text input: it effectively bypasses explicit policy and language generation modules. Building on top of the TransferTransfo framework (Wolf et al., 2019) and generative model pre-training (Radford et al., 2019), we validate the approach on complex multi-domain task-oriented dialogues from the MultiWOZ dataset. Our automatic and human evaluations show that the proposed model is on par with a strong task-specific neural baseline. In the long run, our approach holds promise to mitigate the data scarcity problem, and to support the construction of more engaging and more eloquent task-oriented conversational agents.

研究の動機と目的

• 一般ドメインのテキスト上で大規模な事前学習を活用することで、タスク指向対話システムにおけるデータ不足を緩和すること。
• GPT-2のような事前学習生成言語モデルが、明示的なポリシーまたは生成モジュールを備えずに、タスク指向対話に有効に機能するかどうかを調査すること。
• 自動評価および人的評価指標を用いて、GPTベースのモデルが複雑で多様なドメインの対話において果たす性能を評価すること。
• 提案されたフレームワークが、最小限の再訓練で多様なドメインにわたってどれほど移植可能で適応可能であるかを評価すること。

提案手法

• モデルは、対話の全コンテキスト（信念状態、データベース状態、履歴を含む）をrawテキストとしてエンコードし、GPT-2デコーダーに直接入力するseq2seqフレームワークを採用する。
• モデルは、次の単語の尤度を最大化するという標準的な言語モデル学習目的に従い、MultiWOZデータセット上で微調整される。
• フレームワークはTransferTransfoフレームワークに依存し、自己回帰的テキスト生成にGPT-2アーキテクチャを活用する。
• 2つのデコード戦略（グリーディデコードとnucleus（top-p）サンプリング）を評価し、応答の多様性と品質を制御する。
• モデルはテキストのみの入力を前提としてエンドツーエンドに訓練され、対話状態追跡や応答生成モジュールを別途必要としない。
• 入力コンテキストの再フォーマットとドメイン固有データへの微調整により、新しいドメインへのゼロショットまたはフェイワショット適応が可能になる。

実験結果

リサーチクエスチョン

• RQ1 GPT-2のような大規模事前学習言語モデルを、明示的な対話管理または生成モジュールなしにタスク指向対話生成に有効に微調整できるか。
• RQ2 GPT-2ベースのモデルは、タスク成功度、流暢さ、人的好みの観点から、強力なタスク特化ニューラルベースラインと比較してどの程度の性能を示すか。
• RQ3 nucleusサンプリングを用いることで、グリーディデコードに比べて応答品質が向上するか。
• RQ4 提示されたテキストのみの入力フレームワークは、最小限のアーキテクチャ的変更で、複数のドメインにどの程度一般化可能か。

主な発見

• グリーディデコードを用いたGPT-2ベースのモデルは、61.36%の成功率と70.96%のインフォームレートを達成し、強力なニューラルベースラインと同等の性能を示した。
• nucleusサンプリングを用いることで、GPT2-Mモデルは成功率61.20%、インフォームレート73.96%に向上し、デコード戦略の重要性が示された。
• 人的評価では、GPTベースのモデルと強力なニューラルベースラインとの間に有意差のない好みの差が確認され、59%の比較でGPTモデルがベースラインを上回った。
• GPT2-Mモデルは、45%の比較でベースラインを上回ったが、これは自動スコアが低くても同等またはわずかに優れた応答品質を示している。
• nucleusサンプリングを用いた場合、BLEUスコアは19.05に上昇し、グリーディデコードに比べてより流暢で多様な応答が得られたことを示した。
• 定性的分析では、ベースラインおよびGPTベースのモデルの両方で約50%の対話が成功しており、成功した対話のパターンに明確な差は認められなかった。