[论文解读] Hello Again! LLM-powered Personalized Agent for Long-term Dialogue

Hao Li, Chenghao Yang+4 more|arXiv (Cornell University)|Jun 9, 2024

Speech and dialogue systems被引用 4

一句话总结

本文提出了LD-Agent，一种模型无关的、基于大语言模型的长期个性化对话框架，通过事件记忆与人格建模的整合，采用三个模块化组件：事件感知、人格抽取和响应生成。该框架在MSC和Conversation Chronicles基准上实现了最先进性能，展现出强大的零样本泛化能力与跨领域可迁移性，适用于多种模型与任务。

ABSTRACT

Open-domain dialogue systems have seen remarkable advancements with the development of large language models (LLMs). Nonetheless, most existing dialogue systems predominantly focus on brief single-session interactions, neglecting the real-world demands for long-term companionship and personalized interactions with chatbots. Crucial to addressing this real-world need are event summary and persona management, which enable reasoning for appropriate long-term dialogue responses. Recent progress in the human-like cognitive and reasoning capabilities of LLMs suggests that LLM-based agents could significantly enhance automated perception, decision-making, and problem-solving. In response to this potential, we introduce a model-agnostic framework, the Long-term Dialogue Agent (LD-Agent), which incorporates three independently tunable modules dedicated to event perception, persona extraction, and response generation. For the event memory module, long and short-term memory banks are employed to separately focus on historical and ongoing sessions, while a topic-based retrieval mechanism is introduced to enhance the accuracy of memory retrieval. Furthermore, the persona module conducts dynamic persona modeling for both users and agents. The integration of retrieved memories and extracted personas is subsequently fed into the generator to induce appropriate responses. The effectiveness, generality, and cross-domain capabilities of LD-Agent are empirically demonstrated across various illustrative benchmarks, models, and tasks. The code is released at https://github.com/leolee99/LD-Agent.

研究动机与目标

• 为解决当前长期个性化对话系统主要聚焦于短期、单次会话交互的不足。
• 通过维护长期事件记忆与动态人格建模，实现持续、连贯且上下文一致的对话。
• 开发一种模型无关的框架，使其能够泛化至多种大语言模型架构与真实世界对话领域。
• 通过集成历史事件检索与动态更新的用户-代理人格，提升响应生成质量。
• 在多个基准、模型与对话任务上评估该框架的有效性、泛化能力与可迁移性。

提出的方法

• 该框架由三个可独立调优的模块组成：事件记忆感知、人格抽取与响应生成。
• 事件记忆采用独立的长期与短期记忆库，并通过基于主题的检索机制，提升对过往事件的召回准确性。
• 人格抽取模块采用解耦且可调的机制，动态建模用户与代理人格，并将结果存储于长期记忆库中。
• 检索到的记忆与提取的人格被联合编码后输入响应生成器，以生成上下文相关且个性化的回复。
• 该框架设计为模型无关，支持在多种大语言模型上部署，并可在不同数据集上进行微调，而无需修改模型架构。
• 跨领域评估通过在某一数据集（如CC）上微调并在另一数据集（如MSC）上测试实现；跨任务评估则在Ubuntu IRC数据集的多角色对话任务上进行。

实验结果

研究问题

• RQ1 一种模型无关的框架是否能通过整合事件记忆与人格建模，有效维持开放域对话中的长期连贯性？
• RQ2 LD-Agent在不同对话领域间的泛化能力如何，特别是在于在一个数据集上微调后在具有领域差异的另一数据集上测试时？
• RQ3 LD-Agent在无需架构修改的情况下，能否成功迁移到如多角色对话等不同对话任务上？
• RQ4 整合检索到的记忆与动态更新的人格是否能显著提升长期交互中响应的质量与一致性？
• RQ5 与现有方法相比，LD-Agent在多种基准上的零样本与少样本设置下的表现如何？

主要发现

• 在MSC基准上，LD-Agent在MSC-tuning LDA设置下取得了23.31的R-L得分，显著优于之前的最先进方法（19.94）与零样本基线模型（16.63）。
• 在Conversation Chronicles（CC）基准上，LD-Agent在CC-tuning LDA设置下达到了39.67的R-L得分，超越了之前的最先进方法（37.61）与零样本模型（22.10）。
• 在跨领域评估中，于某一数据集（如CC）上微调的模型在另一数据集（如MSC）上仍表现出色，性能仅出现轻微下降，表明其具备强大的领域泛化能力。
• 在Ubuntu IRC数据集的多角色对话任务中，采用BART主干网络的LD-Agent取得了12.28的R-L得分，优于HeterMPC BART（11.20）及其他基线模型，证实了其强大的任务可迁移性。
• 该框架在两个基准的所有指标（BL-2、BL-3、R-L）上均表现出一致的提升，表明其性能增益具有鲁棒性与稳定性。
• LD-Agent的零样本性能始终优于基线模型，凸显其强大的归纳偏置与泛化能力，即使在未进行微调的情况下亦表现优异。