[論文レビュー] Prototype-to-Style: Dialogue Generation with Style-Aware Editing on Retrieval Memory

Yixuan Su, Yan Wang+5 more|arXiv (Cornell University)|Apr 5, 2020

Topic Modeling参考文献 39被引用数 6

ひとこと要約

本稿では、情報検索システムを用いて応答プロトタイプを取得し、微調整されたGPT-2ベースの生成器を用いて目的の言語スタイルに編集することで、スタイル化対話生成のためのプロトタイプ・ツー・スタイル（PS）フレームワークを提案する。この手法は、スタイルに配慮した学習目的関数とノイズ除去学習を採用し、応答の質とスタイル表現の両立を図り、3つのベンチマークデータセットにおいて、ドメイン内およびクロスドメイン設定の両方で強力なベースラインを上回る性能を発揮する。

ABSTRACT

The ability of a dialog system to express prespecified language style during conversations has a direct, positive impact on its usability and on user satisfaction. We introduce a new prototype-to-style (PS) framework to tackle the challenge of stylistic dialogue generation. The framework uses an Information Retrieval (IR) system and extracts a response prototype from the retrieved response. A stylistic response generator then takes the prototype and the desired language style as model input to obtain a high-quality and stylistic response. To effectively train the proposed model, we propose a new style-aware learning objective as well as a de-noising learning strategy. Results on three benchmark datasets from two languages demonstrate that the proposed approach significantly outperforms existing baselines in both in-domain and cross-domain evaluations

研究の動機と目的

• 文脈的に関連性のある応答に加え、感情、個性、性別などの指定された言語スタイルを表現できる対話応答を生成するという課題に対処すること。
• 既存の手法が応答の情報量や多様性を犠牲にしてスタイルに過剰に注力するという制限を克服すること。
• 取得した応答プロトタイプを事実的かつ文脈的な内容の源として活用しつつ、微調整された生成モデルによるスタイル編集を可能にすること。
• 訓練データとテストデータの分布が著しく異なるクロスドメイン設定において、モデルの耐性を向上させること。
• スタイルの忠実度と応答の質の両立を図るための訓練戦略を開発すること。

提案手法

• 情報検索システムを用いて応答プロトタイプを取得し、それをスタイル語を除去する形でマスクすることで、中立的な内容プロトタイプを作成する。
• スタイルに配慮した応答生成器（微調整済みGPT-2に基づく）が、中立的プロトタイプと希望するスタイルを入力として受け取り、適切なスタイルの応答を生成する。
• モデルは、スタイル情報をモデルパラメータに埋め込む新しいスタイルに配慮した最大尤度推定（MLE）目的関数で訓練される。
• ノイズ除去学習戦略を適用して、取得したプロトタイプから関係のないまたは不適切な内容を無批判にコピーする傾向を防ぐ。
• 対話生成タスクに適したように、GPT-2をアーキテクチャ的に変更した生成器が採用される。
• クロスドメイン評価は、あるドメイン（例：性別別）で訓練したモデルを別のドメイン（例：感情別）でテストすることで、耐性を評価する。

実験結果

リサーチクエスチョン

• RQ1 リtrieval補強フレームワークは、対話生成において応答の質とスタイル表現の両立を効果的に実現できるか？
• RQ2 提案されたPSフレームワークは、ドメイン内およびクロスドメイン設定の両方で、強力なベースラインと比較してどの程度の性能を示すか？
• RQ3 ノイズ除去学習戦略は、取得したプロトタイプから関係のない内容をコピーする傾向をどの程度改善できるか？
• RQ4 スタイルに配慮した学習目的関数は、応答の情報量を損なわせることなく、より一貫性があり正確なスタイル表現を可能にするか？
• RQ5 テストデータの分布が訓練データと著しく異なる場合、モデルの耐性はどの程度高いか？

主な発見

• 提案されたPSフレームワークは、3つのベンチマークデータセットにおいて、ドメイン内およびクロスドメイン設定の両方で、自動評価および人間評価の両面で強力なベースラインを顕著に上回る。
• 品質およびスタイル表現の両面で、評価が≥3および≥4の応答の割合が最も高く、情報量とスタイルの忠実度の両立が図られていることが示された。
• クロスドメイン評価では、PSモデルはドメインシフトの影響にもかかわらず高い応答品質を維持するが、GPT2-FT や PS w/o R といったベースラインは著しい性能低下を示した。
• ノイズ除去学習戦略は、取得したプロトタイプから関係のない内容をコピーする傾向を効果的に低減し、応答の関連性を向上させた。
• 事例研究では、モデルが「悪夢を見る」「高い給与」などの情報を的確に抽出・保持しつつ、ターゲットスタイルに適応できていることが確認された。
• このフレームワークは、特にドメインギャップを埋めるために取得したプロトタイプを活用することで、耐性と一般化性能に優れていることが示された。