[論文レビュー] PLATO: Pre-trained Dialogue Generation Model with Discrete Latent Variable

Siqi Bao, He Huang+3 more|arXiv (Cornell University)|Oct 17, 2019

Topic Modeling参考文献 27被引用数 15

ひとこと要約

本稿では、会話における1対多応答マッピング問題をモデル化するために離散的潜在変数を用いるpre-trained会話生成モデル、PLATOを提案する。RedditおよびTwitterデータ上で柔軟なアテンションメカニズムを介して応答生成と潜在行動認識を共同で学習することで、PLATOは会話の雑談、知識に基づく会話、質疑応答の3つのタスクにおいて、ベースラインより低いパープレキシティを達成し、最先端の性能を示した。

ABSTRACT

Pre-training models have been proved effective for a wide range of natural language processing tasks. Inspired by this, we propose a novel dialogue generation pre-training framework to support various kinds of conversations, including chit-chat, knowledge grounded dialogues, and conversational question answering. In this framework, we adopt flexible attention mechanisms to fully leverage the bi-directional context and the uni-directional characteristic of language generation. We also introduce discrete latent variables to tackle the inherent one-to-many mapping problem in response generation. Two reciprocal tasks of response generation and latent act recognition are designed and carried out simultaneously within a shared network. Comprehensive experiments on three publicly available datasets verify the effectiveness and superiority of the proposed framework.

研究の動機と目的

• 会話生成における1対多マッピング問題に対処すること。すなわち、1つの文脈に対して複数の妥当な応答が存在することを考慮する。
• 大規模なRedditおよびTwitter会話データを用いたpre-trainingによって、一般テキストと会話データの間の分布ギャップを低減すること。
• 柔軟なアテンションメカニズムを用いて、双方向的文脈理解と自己回帰的応答生成を統合すること。
• 人為的ラベルなしで、分離可能で解釈可能な会話的意図（潜在的発話行動）を教師なしで学習すること。
• 共有ネットワーク内で応答生成と潜在行動認識を共同最適化することで、生成品質を向上させること。

提案手法

• 応答の背後にある会話的意図（潜在的発話行動）を表すために、離散的潜在変数 z ∈ [1, K] を導入する。
• 双方向的文脈符号化と自己回帰的生成の両方をサポートする、柔軟な自己アテンションマスクを備えた統合型Transformerベースアーキテクチャを採用する。
• 2つの相互作用的なタスクを共同でpre-trainingする：(1) 応答生成 p(r|c, z) と (2) 潜在行動認識 p(z|c, r) を共有ネットワーク内で行う。
• 一般言語モデル（例：BERT や GPT）を初期化として用い、その後に大規模なRedditおよびTwitterデータセットでモデルをpre-trainingする。
• 潜在表現を文脈と応答の両方と整合させるために対照的学習の目的関数を用い、分離性と関連性を向上させる。
• 生成と認識のタスク間の相互監視を活用して、生成応答の質と多様性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 離散的潜在変数を用いたpre-trained会話モデルは、オープンドメイン会話生成における応答の多様性と自然さを向上させることができるか？
• RQ2 応答生成と潜在行動認識の共同学習は、個別に学習する場合と比較して、モデル性能をどのように向上させるか？
• RQ3 RedditおよびTwitterデータを用いたpre-trainingは、一般テキストと会話データの間の分布シフトをどの程度低減するか？
• RQ4 双方向および単方向処理を両立できる柔軟なアテンションメカニズムの使用は、会話タスクのパフォーマンスにどのように寄与するか？
• RQ5 明示的な制御信号（感情やドメインラベルなど）を用いない方法で、潜在的発話行動を教師なしで学習することは、感情やドメインラベルを用いる手法と同等の性能を達成できるか？

主な発見

• PLATOは、雑談、知識に基づく会話、会話型質疑応答の3つの異なる会話タスクで最先端の結果を達成した。
• 離散的潜在変数を用いたモデル（例：モデル3.1）は、それらを用いないモデルよりも顕著に優れており、潜在変数モデリングの有効性を示した。
• RedditおよびTwitterデータを用いた追加pre-trainingにより、一般言語モデルと会話固有タスクの間の性能ギャップが縮小された。
• 柔軟なアテンションメカニズム（例：モデル1.3）は、固定された単方向または双方向設定よりもパフォーマンスが向上し、文脈を捉える優位性を確認した。
• 応答生成と潜在行動認識の共同学習は、いずれのタスクを個別に学習するよりも、パープレキシティと応答品質の両面で優れた結果をもたらした。
• アブレーションスタディにより、潜在変数の学習が、明示的ラベルに依存せずに多様で文脈に適した応答をモデル化するために不可欠であることが確認された。