[論文レビュー] Fine Grained Knowledge Transfer for Personalized Task-oriented Dialogue Systems

Kaixiang Mo, Yu Zhang+2 more|arXiv (Cornell University)|Nov 11, 2017

Topic Modeling参考文献 18被引用数 14

ひとこと要約

本論文は、タスク指向対話システムにおけるユーザー間での細分化されたフレーズレベルの知識伝達を可能にするとともに、個々の好みを保持する、新しい個人用制御ゲートを備えたパーソナライズドデコーダーを提案する。共有フレーズと個人フレーズを分離することで、文レベルの伝達ベースライン比でBLEUスコアを最大7.5%向上させ、パーソナライズド対話生成における悪影響を及ぼす負の伝達を効果的に軽減する。

ABSTRACT

Training a personalized dialogue system requires a lot of data, and the data collected for a single user is usually insufficient. One common practice for this problem is to share training dialogues between different users and train multiple sequence-to-sequence dialogue models together with transfer learning. However, current sequence-to-sequence transfer learning models operate on the entire sentence, which might cause negative transfer if different personal information from different users is mixed up. We propose a personalized decoder model to transfer finer granularity phrase-level knowledge between different users while keeping personal preferences of each user intact. A novel personal control gate is introduced, enabling the personalized decoder to switch between generating personalized phrases and shared phrases. The proposed personalized decoder model can be easily combined with various deep models and can be trained with reinforcement learning. Real-world experimental results demonstrate that the phrase-level personalized decoder improves the BLEU over multiple sentence-level transfer baseline models by as much as 7.5%.

研究の動機と目的

• ユーザー1人あたりのパーソナライズド対話データが不足する問題に対処し、ユーザー間での有効な知識伝達を可能にすること。
• 既存の文レベルの伝達学習モデルでは、対立する好みを持つユーザー間で個人情報が混在するため、負の伝達を克服すること。
• フレーズレベルでの知識共有を可能にしつつ、ユーザー固有の好みを保持する、柔軟でモジュラーなデコーダーを開発すること。
• seq2seqやHREDを含むさまざまなシーケンス・ツー・シーケンスモデルとの統合を可能にし、広範な適用性を実現すること。
• 実世界の実験と事例研究を通じて、細分化された伝達の有効性を示すこと。

提案手法

• 共有フレーズ（共通知識から）と個人フレーズ（ユーザー固有）を動的に選択する、個人用制御ゲートを備えたパーソナライズドデコーダーを導入する。
• 制御ゲートは、注意メカニズムを用いて、単語やフレーズが共有知識源か個人知識源かを決定する。
• モデルは強化学習を用いてエンド・トゥ・エンドで訓練され、対話ポリシーと応答生成が同時に最適化可能である。
• 知識伝達はフレーズレベルで行われる：共有フレーズはユーザー間で伝達されるが、個人フレーズはユーザー固有であり共有されない。
• アーキテクチャはモジュラーであり、seq2seq や HRED などの既存モデルに、アーキテクチャの大幅な見直しを伴わずに統合可能である。
• フレームワークは、シーケンス・ツー・シーケンスおよび階層的RNN（HRED）モデルをサポートし、広範な互換性を実現する。

実験結果

リサーチクエスチョン

• RQ1 文レベルの伝達と比較して、フレーズレベルの知識伝達は、パーソナライズド対話システムにおける負の伝達を軽減できるか？
• RQ2 提案された個人用制御ゲートは、応答生成中に共有フレーズと個人フレーズをどれほど正確に区別できるか？
• RQ3 パーソナライズドデコーダーは、多様なユーザーの好みを考慮して、応答品質をどの程度向上できるか？
• RQ4 seq2seq や HRED などの異なる基本アーキテクチャと効果的に組み合わせられるか？
• RQ5 細分化された伝達は、BLEU などの自動評価指標で測定可能な向上をもたらすか？

主な発見

• 提案されたフレーズレベルの伝達モデル PT-HRED は、実世界のコーヒー注文データセットにおいて、文レベルの伝達ベースライン ST-HRED に対して BLEU スコアを 7.5% 向上させた。
• パーソナライズドデコーダーは、BLEU スコアや成功確率を含む複数の指標で、すべての文レベルの伝達モデル（ST-S2S、ST-E-S2S、ST-HRED）を上回った。
• 事例研究では、PT-HRED がユーザー固有の好み（例：「マキアート」を「ラテ」に誤って伝達しない）を正しく保持していたのに対し、ST-HRED は他のユーザーの個人的好みを誤って伝達していた。
• 5つの異なるランダムシードで実行した結果、BLEU スコアが高く、分散が小さいことから、訓練の安定性が向上したことが示された。
• 個人用制御ゲートは、共有フレーズと個人フレーズを効果的に分離し、個人情報の有害な伝達を防止した。
• seq2seq や HRED を含むさまざまな基本モデルに対して、強い汎化性能を示し、モジュラリティと広範な適用性を確認した。