[論文レビュー] Open-Domain Conversational Agents: Current Progress, Open Problems, and Future Directions

Stephen Roller, Y-Lan Boureau+14 more|arXiv (Cornell University)|Jun 22, 2020

Topic Modeling参考文献 149被引用数 42

ひとこと要約

この方針論文は、オープンドメインの対話エージェント構築における望ましい特性、現在の進展、および未解決の問題を調査し、継続的学習、魅力的なコンテンツ、適切な振る舞いを強調し、著者グループの研究へバイアスをかけている。

ABSTRACT

We present our view of what is necessary to build an engaging open-domain conversational agent: covering the qualities of such an agent, the pieces of the puzzle that have been built so far, and the gaping holes we have not filled yet. We present a biased view, focusing on work done by our own group, while citing related work in each area. In particular, we discuss in detail the properties of continual learning, providing engaging content, and being well-behaved -- and how to measure success in providing them. We end with a discussion of our experience and learnings, and our recommendations to the community.

研究の動機と目的

• 超人レベルのオープンドメイン対話エージェントの長期的目標を定義し、それをチューリング風テストと区別する。
• 魅力的なオープンドメインチャットボットに必要な主要特性（継続的学習、魅力的なコンテンツ、適切な振る舞い）を特定・明確化する。
• エンドツーエンド対話モデリングと知識統合に関する著者グループの主なアプローチと実験を要約する。
• 野外でのオープンドメインエージェントの進展を評価する機構と実務的な課題を論じる。

提案手法

• エンドツーエンド対話モデルとその構成要素（memory、knowledge grounding、generation、evaluation）に関する最近の研究をレビューし統合する。
• 継続的なオンライン訓練のデータソース戦略と、静的ベンチマークと動的ベンチマークの使用を説明する。
• 対話からのフィードバック学習（自己フィードバックを含む）と、暗黙の品質信号、そしてそれらの強化学習への影響を論じる。
• 検索と動的ソースを通じた知識更新を探り、生成モデルと retrieved-based アプローチを比較する。

実験結果

リサーチクエスチョン

• RQ1 卓越したオープンドメイン対話エージェントを定義する特徴は何で、それはどのように測定できるか？
• RQ2 長期対話における継続的学習、知識更新、メモリの主な課題とギャップは何か？
• RQ3 explicitな監督付き評価なしに、対話信号から学習して対話品質を改善するにはどうすればよいか？
• RQ4 オープンドメインモデルは関心事を最新に保ちながら、魅力・正確さ・安全性のバランスをどうとるべきか？

主な発見

• 継続的学習にはオンライン訓練、対話からの学習信号、および動的な知識更新が必要で、忘却とデータ分布シフトに関する未解決の問題がある。
• 対話フィードバックからの学習は性能を向上させ得るが、対話特有の信号と外部要因を区別することは依然として難しい。
• 大規模な事前学習とデコードの改善を伴う生成モデルは retrievedモデルを凌ぐ可能性がある一方、整合性と多様性の課題が残る。
• 生成の制御（特異性、反復、質問の促進）や不適切性低減の訓練といった手法は、より魅力的で退化を抑えた出力の可能性を示している。
• memory、推論、常識は依然大きなギャップであり、現行のアプローチは長期的で統合された知識よりも短期的な履歴と検索に依存することが多い。