[論文レビュー] A Neural Topical Expansion Framework for Unstructured Persona-oriented Dialogue Generation

Minghong Xu, Piji Li+5 more|arXiv (Cornell University)|Feb 6, 2020

Topic Modeling参考文献 32被引用数 15

ひとこと要約

本稿では、変分自己オートエンコーダー（VAE）に基づくトピックモデルを用いて、短い事前定義済みのユーザーパーソナを意味的に関連するコンテンツに拡張する神経的トピック拡張フレームワーク「パーソナ探索と活用（PEE）」を提案する。このフレームワークは、特別な損失関数を介して元のパーソナ情報と拡張されたパーソナ情報を統合することで応答品質を向上させ、自動評価および人的評価の両面で最先端のベースラインを上回る性能を示した。

ABSTRACT

Unstructured Persona-oriented Dialogue Systems (UPDS) has been demonstrated effective in generating persona consistent responses by utilizing predefined natural language user persona descriptions (e.g., "I am a vegan"). However, the predefined user persona descriptions are usually short and limited to only a few descriptive words, which makes it hard to correlate them with the dialogues. As a result, existing methods either fail to use the persona description or use them improperly when generating persona consistent responses. To address this, we propose a neural topical expansion framework, namely Persona Exploration and Exploitation (PEE), which is able to extend the predefined user persona description with semantically correlated content before utilizing them to generate dialogue responses. PEE consists of two main modules: persona exploration and persona exploitation. The former learns to extend the predefined user persona description by mining and correlating with existing dialogue corpus using a variational auto-encoder (VAE) based topic model. The latter learns to generate persona consistent responses by utilizing the predefined and extended user persona description. In order to make persona exploitation learn to utilize user persona description more properly, we also introduce two persona-oriented loss functions: Persona-oriented Matching (P-Match) loss and Persona-oriented Bag-of-Words (P-BoWs) loss which respectively supervise persona selection in encoder and decoder. Experimental results show that our approach outperforms state-of-the-art baselines, in terms of both automatic and human evaluations.

研究の動機と目的

• 非構造的パーソナ指向対話システム（UPDS）における限られた・希釈したユーザーパーソナ記述の課題に対処すること。これは、応答生成時に効果的なパーソナ統合を妨げる。
• ニューラル的トピック拡張を通じて、意味的に関連するコンテンツで事前定義済みのユーザーパーソナを拡張することで、パーソナ情報の活用を向上させること。
• パーソナ探索（拡張）とパーソナ活用（応答生成）を統合的・エンドツーエンドの形で向上させる統一フレームワークを構築すること。
• エンコーダーとデコーダーの両コンponentで、パーソナ情報をよりよく選択・統合できるように導くための新しい損失関数を設計すること。
• 拡張されたパーソナ表現が、より一貫性があり関連性が高く、パーソナに整合した対話応答を生成することを実証すること。

提案手法

• パーソナ探索モジュールでは、変分自己オートエンコーダー（VAE）に基づくトピックモデルを用いて、元の短いユーザーパーソナと対話履歴から意味的に豊富な拡張パーソナ記述を生成する。
• パーソナ活用モジュールは、マルチホップメモリネットワークを備えたシーケンス・トゥ・シーケンスアーキテクチャを用いて、元のパーソナ表現と拡張されたパーソナ表現を対話生成プロセスに統合する。
• 相互強化型マルチホップメモリ検索メカニズムにより、文脈に応じて元のパーソナおよび拡張パーソナコンテンツから関連するパーソナ語を動的に取得する。
• 2つの新しい損失関数を導入する：エンコーダーにおけるパーソナ選択をガイドする「パーソナ指向マッチング（P-Match）」と、デコーダーにおけるパーソナ関連語の生成を促進する「パーソナ指向ボックオブワーズ（P-BoWs）」。
• パーソナ探索モジュールとパーソナ活用モジュールを共同で学習させることで、対話履歴と拡張パーソナコンテンツの間で文脈的・トピック的整合性を実現する。
• 外部のパーソナ語は、現在の対話文脈との関連性に基づいて動的に取得・重み付けされ、間接的なパーソナ相関性が向上する。

実験結果

リサーチクエスチョン

• RQ1 ニューラル的トピック拡張フレームワークは、短く非構造的なユーザーパーソナに意味的に関連するコンテンツを効果的に拡張し、対話応答品質を向上させることができるか？
• RQ2 拡張されたパーソナ情報の統合は、マルチターン対話システムにおける応答の関連性と一貫性にどのように影響を与えるか？
• RQ3 提案されたP-MatchおよびP-BoWs損失関数は、モデルのパーソナ情報の検出および活用能力をどの程度向上させるか？
• RQ4 パーソナ探索とパーソナ活用の共同学習は、分離学習やベースライン手法と比較して、より優れた性能を発揮するか？
• RQ5 モデルが拡張されたパーソナ語を使用する際、ベースラインと比較してパーソナ活用率と応答の情報量の両面で優れているか？

主な発見

• PEEは自動評価および人的評価の両方の指標で、最先端のベースラインを著しく上回り、優れた応答品質とパーソナの一貫性を示した。
• 人的評価では、プロファイルメモリベースライン比でパーソナ検出率が30.01%向上し、パーソナ情報の活用がより良好であることが示された。
• モデルは全対話ターンにおいて最高のパーソナ使用率を達成し、元のパーソナおよび拡張パーソナコンテンツの両方を一貫性があり文脈的に適切に使用した。
• P-BoWsおよびP-Match損失関数は、モデルがより多くのパーソナ関連語を生成し、エンコーダーおよびデコーダーにおける選択精度を向上させることに効果的であった。
• 事例研究により、PEEはベースラインが見逃す間接的な意味的リンク（例：「ベジタリアン」→「乳製品」→「キャンディ」）を活用することで、より情報量が多く、パーソナに整合した応答を生成することが確認された。
• 相互強化型マルチホップメモリ機構は、注意マップで可視化されたように、関連する外部パーソナ語を効果的に取得・重み付けし、文脈的整合性を向上させた。