[論文レビュー] Hello Again! LLM-powered Personalized Agent for Long-term Dialogue

Hao Li, Chenghao Yang+4 more|arXiv (Cornell University)|Jun 9, 2024

Speech and dialogue systems被引用数 4

ひとこと要約

本稿では、イベント記憶とパーソナモデリングを統合する3つのモジュラーなコンponents（イベント認識、パーソナ抽出、応答生成）を備えた、モデルに依存しないLLM駆動のフレームワーク、LD-Agentを紹介する。このフレームワークは、MSCおよびConversation Chroniclesベンチマークで最先端の性能を達成し、多様なモデルやタスクにおいて強いゼロショット一般化性能とドメイン間転送性を示している。

ABSTRACT

Open-domain dialogue systems have seen remarkable advancements with the development of large language models (LLMs). Nonetheless, most existing dialogue systems predominantly focus on brief single-session interactions, neglecting the real-world demands for long-term companionship and personalized interactions with chatbots. Crucial to addressing this real-world need are event summary and persona management, which enable reasoning for appropriate long-term dialogue responses. Recent progress in the human-like cognitive and reasoning capabilities of LLMs suggests that LLM-based agents could significantly enhance automated perception, decision-making, and problem-solving. In response to this potential, we introduce a model-agnostic framework, the Long-term Dialogue Agent (LD-Agent), which incorporates three independently tunable modules dedicated to event perception, persona extraction, and response generation. For the event memory module, long and short-term memory banks are employed to separately focus on historical and ongoing sessions, while a topic-based retrieval mechanism is introduced to enhance the accuracy of memory retrieval. Furthermore, the persona module conducts dynamic persona modeling for both users and agents. The integration of retrieved memories and extracted personas is subsequently fed into the generator to induce appropriate responses. The effectiveness, generality, and cross-domain capabilities of LD-Agent are empirically demonstrated across various illustrative benchmarks, models, and tasks. The code is released at https://github.com/leolee99/LD-Agent.

研究の動機と目的

• 現在の長期間にわたるパーソナライズド対話システムが短期的かつ単一セッションの対話に限定されているというギャップを埋めるため。
• 長期的なイベント記憶と動的パーソナモデリングを維持することで、持続的で一貫性があり、文脈に適した会話を実現するため。
• 多様なLLMアーキテクチャや現実世界の対話ドメインに一般化可能な、モデルに依存しないフレームワークを開発するため。
• 履歴イベントの統合的リtrievalと動的に更新されるユーザー・エージェントのパーソナを活用して、応答生成を向上させるため。
• 複数のベンチマーク、モデル、対話タスクを対象に、フレームワークの有効性、汎用性、転送性を評価するため。

提案手法

• フレームワークは、イベント記憶認識、パーソナ抽出、応答生成の3つの独立して調整可能なモジュールから構成される。
• イベント記憶は、別々の長期的および短期的メモリバンクを用い、トピックベースのリtrievalにより過去の出来事の記憶精度を向上させる。
• パーソナ抽出モジュールは、分離可能で調整可能なメカニズムを採用し、ユーザーおよびエージェントのパーソナを動的にモデリングし、長期的バンクに保存する。
• 取得された記憶と抽出されたパーソナが統合的に符号化され、応答生成器に供給され、文脈に適したパーソナライズドな応答が生成される。
• フレームワークはモデルに依存する設計となっており、さまざまなLLMへの展開が可能であり、アーキテクチャの再設計なしに異なるデータセットでのファインチューニングが可能である。
• ドメイン間評価は、あるデータセット（例：CC）でファインチューニングし、別のデータセット（例：MSC）でテストすることで実施され、タスク間評価はUbuntu IRCデータセットを用いたマルチパーティ対話で実施された。

実験結果

リサーチクエスチョン

• RQ1 モデルに依存しないフレームワークは、イベント記憶とパーソナモデリングを統合することで、オープンドメイン対話における長期的整合性を効果的に維持できるか？
• RQ2 LD-Agentは、あるデータセットでファインチューニングされた後、別のドメインにギャップのあるデータセットでテストされた場合、どの程度異なる対話ドメインに一般化できるか？
• RQ3 LD-Agentは、アーキテクチャの変更なしに、マルチパーティ会話などの異なる対話タスクにどの程度転送可能か？
• RQ4 取得された記憶と動的に更新されるパーソナの統合は、長期的対話における応答品質と一貫性を著しく向上させるか？
• RQ5 LD-Agentは、さまざまなベンチマークにおいて、既存の手法と比較してゼロショットおよびフェイシュット設定でどの程度の性能を示すか？

主な発見

• MSCベンチマークでは、LD-AgentはMSC-tuning LDA設定でR-Lスコア23.31を達成し、以前のSOTA手法（19.94）およびゼロショットベースライン（16.63）を顕著に上回った。
• Conversation Chronicles（CC）ベンチマークでは、LD-AgentはCC-tuning LDA設定でR-Lスコア39.67を達成し、以前のSOTA（37.61）およびゼロショットモデル（22.10）を上回った。
• ドメイン間評価では、あるデータセット（例：CC）でファインチューニングされたモデルが、別のデータセット（例：MSC）でも良好な性能を示し、ドメイン内ファインチューニングと比較してわずかな性能低下にとどまった。これは、強力なドメイン一般化性能を示している。
• Ubuntu IRCデータセットにおけるマルチパーティ対話では、BARTバックボーンを搭載したLD-AgentがR-Lスコア12.28を達成し、HeterMPC BART（11.20）および他のベースラインを上回った。これは、強力なタスク転送性を確認している。
• 両ベンチマークにおいて、すべての指標（BL-2、BL-3、R-L）で一貫した改善が見られ、堅牢で安定した性能向上を示している。
• LD-Agentのゼロショット性能は、常にベースラインモデルを上回っており、ファインチューニングなしでも強力なインダクティブバイアスと一般化能力を示している。