[論文レビュー] Neural Personalized Response Generation as Domain Adaptation

Weinan Zhang, Ting Liu+2 more|arXiv (Cornell University)|Jan 9, 2017

Topic Modeling参考文献 45被引用数 16

ひとこと要約

本稿では、初期化と適応の2段階からなるニューラル応答生成フレームワークを提案する。まず大規模な対話データ上で汎用的なシーケンス・ツー・シーケンスモデルを事前学習し、その後個別データで微調整することで、個々の話し方の特徴を捉える。この手法により、生成応答に顕著な語彙的・スタイル的差異が生じ、個人に特化した会話エージェントにおける効果的なドメイン適応が実証された。

ABSTRACT

In this paper, we focus on the personalized response generation for conversational systems. Based on the sequence to sequence learning, especially the encoder-decoder framework, we propose a two-phase approach, namely initialization then adaptation, to model the responding style of human and then generate personalized responses. For evaluation, we propose a novel human aided method to evaluate the performance of the personalized response generation models by online real-time conversation and offline human judgement. Moreover, the lexical divergence of the responses generated by the 5 personalized models indicates that the proposed two-phase approach achieves good results on modeling the responding style of human and generating personalized responses for the conversational systems.

研究の動機と目的

• 会話システムにおける個人に特化した応答生成の欠如を解消し、個々の話し方の特徴をモデル化すること。
• ドメイン適応を用いて汎用モデルを個々のユーザーの好みに適応させることで、応答生成を改善すること。
• リアルタイム会話とオフラインでの人間による評価を組み合わせた、新規のヒューマン支援評価手法を開発し、性格の模倣度を評価すること。
• 提案手法が、会話生成において明確に区別される個人の応答スタイルを効果的に捉え、再現できることを検証すること。

提案手法

• 2段階の訓練スキームを採用する：まず大規模な汎用対話データ上でシーケンス・ツー・シーケンスモデルを事前学習（初期化）し、その後小規模な個人データで微調整（適応）する。
• エンコーダ・デコーダフレームワークは、GRUまたはLSTMネットワークを用い、入力投稿を文脈ベクトルに符号化し、それを応答シーケンスにデコードする。
• デコーダはエンコーダからの文脈ベクトルに条件付けられ、非線形関数を用いて単語単位で応答を生成する。
• 個人化は、個々のユーザーのデータで事前学習済みモデルを微調整することで実現され、モデルが個々の話し方の特徴に適応できるようにする。
• リアルタイムのオンライン会話とオフラインでの人間による判断を組み合わせた、新規のヒューマン支援評価プロトコルを採用する。
• 語彙的差異と語の重複分析を用いて、異なるユーザーのデータで学習されたモデル間でのスタイル的差異を定量的に評価する。

実験結果

リサーチクエスチョン

• RQ1 シーケンス・ツー・シーケンスモデルは、応答生成において個々の話し方の特徴を効果的に学習・再現できるか？
• RQ2 初期化→適応の2段階アプローチは、標準的なseq2seqモデルと比較して、個人に特化した応答パターンをどれほど効果的に捉えられるか？
• RQ3 モデルは、特定の個人のスタイルに一致すると感じられる応答をどの程度効果的に生成できるか？
• RQ4 提案されたヒューマン支援評価手法は、生成応答における性格の模倣度を測定するのにどの程度効果的か？

主な発見

• 2段階アプローチは、5名の異なるボランティアの独自の応答スタイルを効果的にモデル化しており、生成応答における顕著な語彙的差異が裏付けられた。
• 汎用モデルを大規模な対話データで事前学習した後、小規模な個人データで微調整することで、モデルの個人化が向上した。
• オンラインでのリアルタイム会話とオフラインでの人間による判断を併用した評価により、モデルがターゲット個人のスタイルに一致すると感じられる応答を生成することが確認された。
• 語の重複と語彙分布の分析から、5名の個人に特化したモデルそれぞれが、明確に異なる語彙的パターンを持つ応答を生成していることが示され、効果的なスタイルモデリングが実証された。
• 結果から、初期化→適応によるドメイン適応が、文脈的・スタイル的に適切な応答を生成する能力を向上させることを確認した。
• 標準的なseq2seqモデルと比較して、提案手法は会話生成における個々の性格的特徴をより効果的に捉えられることを示した。