[論文レビュー] Challenges in Building Intelligent Open-domain Dialog Systems

Minlie Huang, Xiaoyan Zhu+1 more|arXiv (Cornell University)|May 13, 2019

Topic Modeling参考文献 167被引用数 44

ひとこと要約

この調査は、意味論、一貫性、対話性に焦点を当てたオープンドメイン対話システムへのニューラルアプローチを概観し、これらの課題に対処するためのリトリーバル、生成、ハイブリッド手法を論じる。

ABSTRACT

There is a resurgent interest in developing intelligent open-domain dialog systems due to the availability of large amounts of conversational data and the recent progress on neural approaches to conversational AI. Unlike traditional task-oriented bots, an open-domain dialog system aims to establish long-term connections with users by satisfying the human need for communication, affection, and social belonging. This paper reviews the recent works on neural approaches that are devoted to addressing three challenges in developing such systems: semantics, consistency, and interactiveness. Semantics requires a dialog system to not only understand the content of the dialog but also identify user's social needs during the conversation. Consistency requires the system to demonstrate a consistent personality to win users trust and gain their long-term confidence. Interactiveness refers to the system's ability to generate interpersonal responses to achieve particular social goals such as entertainment, conforming, and task completion. The works we select to present here is based on our unique views and are by no means complete. Nevertheless, we hope that the discussion will inspire new research in developing more intelligent dialog systems.

研究の動機と目的

• オープンドメイン対話の長期的なユーザーエンゲージメントと社会的相互作用という目標を動機づける。
• 三つの核となる課題を特定し明示する：意味論、一貫性、対話性。
• オープンドメイン対話のためのニューラルアプローチ（リトリーバル、生成、ハイブリッド）を比較・統合する。
• より自然な対話のための現実世界の知識とペルソナの grounding を議論する。
• 将来の研究を指針づける評価手法とベンチマークを概説する。

提案手法

• オープンドメイン対話のエンドツーエンドの応答生成フレームワークを説明する。
• unified scoring formulation P( Y | X t, C t ) の下で、リトリーバルベース、生成ベース、ハイブリッド手法を特徴づける。
• リトリーバルベースの応答ランキングにおける浅い相互作用ネットワークと深い相互作用ネットワークを説明する。
• アテンションの役割と事前学習言語モデルを含むエンコーダー-デコーダ生成アーキテクチャを要約する。
• 知識 grounding、ペルソナ grounding、感情 grounding など grounding 技術を論じる。
• オープンドメイン会話モデリングの評価アプローチと共通ベンチマークを調査する。

実験結果

リサーチクエスチョン

• RQ1 ニューラルなオープンドメイン対話システムにおける中心的な意味論・一貫性・対話性の課題は何か？
• RQ2 リトリーバルベース、生成ベース、ハイブリッドアーキテクチャはこれらの課題にどう対処するか？
• RQ3 内容の豊かさと対人品質を向上させる grounding 戦略は何か？
• RQ4 オープンドメイン対話の質とエンゲージメントを最も捉える評価手法とベンチマークは何か？
• RQ5 将来の研究はオープンドメイン対話における長期的なユーザーエンゲージメントをどう進展させることができるか？

主な発見

• ニューラルなオープンドメイン対話は、意味論的な問題によりよくない反応を生みやすく、理解と grounding を豊かにする方法が求められる。
• リトリーバルベース、生成ベース、ハイブリッドアプローチにはそれぞれ利点と限界があり、ハイブリッドは現実性と新規性のバランスを提供する。
• 深層相互作用ネットワークと Transformer ベースのモデル（例：BERT、GPT 系） は、リトリーバル設定におけるマッチングと応答品質を改善する。
• ペルソナ、知識、感情の grounding は対話の一貫性と対話性を高める。
• 事前学習言語モデルとタスク特化の微調整は、最近の対話AI評価と課題で強力な結果を生み出している。