[論文レビュー] A Unified Pre-training Framework for Conversational AI

Siqi Bao, B. J. Chen+8 more|arXiv (Cornell University)|May 6, 2021

Topic Modeling参考文献 30被引用数 5

ひとこと要約

本論文は、会話型AIのための統合的事前学習フレームワークであるPLATO-2を提案する。このフレームワークは二段階のカリキュラム学習アプローチを採用しており、まずタスク指向対話用の粗い粒度の1対1応答生成モデルを訓練し、次に離散的潜在変数と一貫性評価モデルを用いて、多様で一貫性のあるオープンドメインおよび知識に基づく応答を精錬する。PLATO-2はDSTC9の3つのタスクすべてで最先端の結果を達成し、オープンドメイン会話、知識に基づく対話、エンドツーエンドのタスク指向対話で1位を獲得した。

ABSTRACT

In this work, we explore the application of PLATO-2 on various dialogue systems, including open-domain conversation, knowledge grounded dialogue, and task-oriented conversation. PLATO-2 is initially designed as an open-domain chatbot, trained via two-stage curriculum learning. In the first stage, a coarse-grained response generation model is learned to fit the simplified one-to-one mapping relationship. This model is applied to the task-oriented conversation, given that the semantic mappings tend to be deterministic in task completion. In the second stage, another fine-grained generation model and an evaluation model are further learned for diverse response generation and coherence estimation, respectively. With superior capability on capturing one-to-many mapping, such models are suitable for the open-domain conversation and knowledge grounded dialogue. For the comprehensive evaluation of PLATO-2, we have participated in multiple tasks of DSTC9, including interactive evaluation of open-domain conversation (Track3-task2), static evaluation of knowledge grounded dialogue (Track3-task1), and end-to-end task-oriented conversation (Track2-task1). PLATO-2 has obtained the 1st place in all three tasks, verifying its effectiveness as a unified framework for various dialogue systems.

研究の動機と目的

• オープンドメインチャット、知識に基づく対話、タスク指向対話の3つの会話型AIタスクを統合的に処理できる事前学習フレームワークの開発。
• タスク固有のカスタマイズを必要とする従来のモデルの限界を克服し、単一で柔軟なアーキテクチャを導入すること。
• 1対多のマッピングモデリングにより、オープンドメインおよび知識に基づく対話における応答の多様性と一貫性を向上させること。
• タスク指向対話においては、決定論的な応答がより適切であるため、1対1マッピングモデルを適応させること。
• DSTC9における包括的なベンチマーク評価を通じて、フレームワークの汎用性と有効性を検証すること。

提案手法

• フレームワークは二段階のカリキュラム学習プロセスを採用する。まず、対話文脈-応答ペアに対して負の対数尤度（NLL）損失を用いて粗い粒度の1対1応答生成モデルを訓練する。
• 第二段階では、離散的潜在変数を導入して1対多マッピングをモデル化し、オープンドメインおよび知識に基づく対話における多様な応答生成を可能にする。
• 細粒度の生成モデルと別個の一貫性評価モデルを共同で訓練することで、応答の質と一貫性を向上させる。
• 共有されたエンコーダ・デコーダパラメータを有する統合的トランスフォーマーベースラインにより、パラメータの効率的利用とクロストラック転移を実現する。
• タスク指向対話では、1対1マッピングモデルが文脈から一括して対話状態、システム行動、応答を生成する。
• 知識の根拠付けは、入力を知識セグメントで拡張することで実現し、モデルが外部事実に基づいて応答を生成できるようにする。

実験結果

リサーチクエスチョン

• RQ1 タスク固有の再訓練を必要とせずに、1つの事前学習フレームワークがオープンドメイン、知識に基づく、タスク指向対話の3つのタスクを効果的に処理できるか。
• RQ2 1対1および1対多マッピング段階を含むカリキュラム学習が、応答の質と多様性をどのように向上させるか。
• RQ3 1対1マッピングモデルが、高い精度でエンドツーエンドのタスク指向対話にどの程度対応できるか。
• RQ4 1対多モデリングコンponentsが、一貫性と関連性を維持したまま、知識に基づく対話に一般化できるか。
• RQ5 包括的でマルチタスク評価ベンチマークにおいて、PLATO-2は既存のモデルと比べてどの程度優れているか。

主な発見

• PLATO-2はDSTC9の3つのタスクすべてで1位を獲得した：オープンドメイン会話のインタラクティブ評価（Track3-task2）。
• 知識に基づく対話の静的評価（Track3-task1）において、PLATO-2はより一貫性があり文脈に根ざした応答を示し、ベースラインを上回った。
• エンドツーエンドのタスク指向対話（Track2-task1）では、対話状態、システム行動、応答を同時に生成することで、最先端のパフォーマンスを達成した。
• オープンドメイン会話において、汎用性と多様性に優れ、一般的で繰り返しの多い応答を回避した。
• 離散的潜在変数の統合により、応答の多様性が顕著に向上したが、同時に文法的正確性と関連性も維持された。
• フレームワークは、1つのアーキテクチャ内で3つの異なる対話パラダイムを統合し、その汎用性の有効性を実証した。