[論文レビュー] A Tailored Pre-Training Model for Task-Oriented Dialog Generation

Jing Gu, Qingyang Wu+3 more|arXiv (Cornell University)|Apr 24, 2020

Topic Modeling参考文献 18被引用数 8

ひとこと要約

本稿では、タスク指向対話生成に特化した事前学習ロール・アラームティング言語モデル、PRALを提案する。PRALは、ユーザーとシステムのロールごとに別々のGPT-2エンコーダーを用い、大規模な教師GPTからの知識蒸留、開始位置のランダム化、履歴割合の調整を実装している。PRALは、アノテーションを一切使用せずにCamRest676、MultiWOZ、PersuasionForGoodで最先端の性能を達成し、成功確率、流暢さ、一貫性、多様性の面で顕著に向上した。

ABSTRACT

The recent success of large pre-trained language models such as BERT and GPT-2 has suggested the effectiveness of incorporating language priors in downstream dialog generation tasks. However, the performance of pre-trained models on the dialog task is not as optimal as expected. In this paper, we propose a Pre-trained Role Alternating Language model (PRAL), designed specifically for task-oriented conversational systems. We adopted (Wu et al., 2019) that models two speakers separately. We also design several techniques, such as start position randomization, knowledge distillation, and history discount to improve pre-training performance. We introduce a task-oriented dialog pretraining dataset by cleaning 13 existing data sets. We test PRAL on three different downstream tasks. The results show that PRAL performs better or on par with state-of-the-art methods.

研究の動機と目的

• 既存の事前学習言語モデルがタスク指向対話システムにおいて、話者固有のスタイルの処理や可変長対話の扱いに劣っているという限界を是正すること。
• 対話構造と文脈に特化した技術的工夫を設計することで、対話生成における事前学習の効果を高めること。
• 13の既存データセットから構成される高品質なマルチドメイン対話コーパス（PretrainDial）を構築し、大規模な事前学習を支援すること。
• タスク固有のアノテーションに依存せずに、下流タスクにおけるタスク指向対話の最先端性能を達成すること。

提案手法

• PRALは、ロール別スタイルをモデル化するために、ユーザー用とシステム用の別々のGPT-2言語モデルを採用しており、これはAlternating Roles Dialog Model（ARDM）にインspiredされている。
• 開始位置ランダム化（SPR）を適用することで、位置埋め込みが特定の発話内容に絡みつくのを防ぎ、可変長対話における一般化性能を向上させている。
• 知識蒸留を用い、大規模な事前学習済みGPT-2を教師モデルとして、学生モデルに共通の知識を転送することで応答品質を向上させている。
• 履歴割合の調整により、対話内の発話を再重み付けし、後続の発話をより重視することで、文脈情報をよりよく保持している。
• モデルは、テレビの台本やタスク指向対話など13の異なるソースからなる142,298件の対話から構成される、洗練されたデータセットPretrainDialで事前学習されている。
• 微調整は、CamRest676、MultiWOZ、PersuasionForGoodの3つの下流タスク指向対話データセットで実施され、自動評価と人間評価の両方で評価されている。

実験結果

リサーチクエスチョン

• RQ1 対話生成に特化して設計された事前学習言語モデルは、汎用モデルに比べてタスク指向対話タスクで優れた性能を発揮できるか？
• RQ2 ロール別モデリングと知識蒸留は、対話の一貫性と事実の整合性を向上させるためにどの程度有効か？
• RQ3 開始位置ランダム化は、可変長対話シーケンスにおける一般化性能をどの程度向上させるか？
• RQ4 高品質で洗練された事前学習データは、より大きなが汚染されたデータセットを上回るのか？
• RQ5 タスクアノテーションなしで事前学習されたモデルは、下流タスクで最先端の性能を達成できるか？

主な発見

• CamRest676では、PRALが21.6のBLEU-4スコアを達成し、SOTAのARDMモデルを上回り、アノテーションを一切使用しないSequicity手法に対しても優位であった。
• MultiWOZでは、LaRLベースラインに比べてBLEU-4で68.8%の向上を達成し、すべての指標でHDSAとLaRLを上回った。全体スコアは0.82、多様性スコアは0.73を記録した。
• PersuasionForGoodでは、ARDMに比べてBLEU-2が63%向上し、流暢さ、論理的整合性、一貫性、多様性の各点で人間評価でも顕著に高いスコアを記録した。
• 人間評価では、PRALが平均0.99の寄付評価を得ており、ARDMの0.62に比べ顕著に高く、より強い説得的効果を示した。
• アブレーションスタディにより、大規模な教師GPTからの知識蒸留が最も重要な要因であることが確認され、性能向上に顕著な寄与を示した。
• 300MBの高品質データ（PretrainDial）のみを用いても、Redditデータ30GBを用いたDialoGPTを上回る性能を発揮した。これは、データ品質が規模を上回ることを示している。