[论文解读] Empowering Working Memory for Large Language Model Agents

Jing Guo, Nan Li+6 more|arXiv (Cornell University)|Dec 22, 2023

Topic Modeling被引用 5

一句话总结

本文提出了一种新颖的 LLM 代理架构，整合了集中式工作记忆中枢与情景缓冲区，以实现在对话轮次之间的持久、上下文连贯的记忆。通过模拟人类认知工作记忆，该模型在复杂、多轮任务中增强了推理能力，为具备类人记忆能力的人工通用智能提供了基础蓝图。

ABSTRACT

Large language models (LLMs) have achieved impressive linguistic capabilities. However, a key limitation persists in their lack of human-like memory faculties. LLMs exhibit constrained memory retention across sequential interactions, hindering complex reasoning. This paper explores the potential of applying cognitive psychology's working memory frameworks, to enhance LLM architecture. The limitations of traditional LLM memory designs are analyzed, including their isolation of distinct dialog episodes and lack of persistent memory links. To address this, an innovative model is proposed incorporating a centralized Working Memory Hub and Episodic Buffer access to retain memories across episodes. This architecture aims to provide greater continuity for nuanced contextual reasoning during intricate tasks and collaborative scenarios. While promising, further research is required into optimizing episodic memory encoding, storage, prioritization, retrieval, and security. Overall, this paper provides a strategic blueprint for developing LLM agents with more sophisticated, human-like memory capabilities, highlighting memory mechanisms as a vital frontier in artificial general intelligence.

研究动机与目标

• 解决 LLM 在序列交互中保留上下文信息的局限性。
• 克服传统 LLM 架构中对话轮次孤立及缺乏持久记忆关联的问题。
• 设计一种受认知心理学工作记忆框架启发的记忆增强型 LLM 代理。
• 通过改善记忆连贯性，实现在复杂协作任务中更细致、连贯的推理。
• 为开发具备先进类人记忆机制的 LLM 代理建立战略蓝图。

提出的方法

• 引入集中式工作记忆中枢，以存储和管理跨交互的活跃、任务相关的信息。
• 整合情景缓冲区，用于编码、存储和检索来自过往对话的长期情景记忆。
• 设计记忆整合机制，通过中枢与情景缓冲区将当前推理与相关过往轮次链接。
• 采用基于注意力的机制，根据当前任务上下文动态检索和更新记忆内容。
• 通过在对话轮次间保持持久记忆链接，构建支持推理连续性的架构。
• 提出一种模块化框架，将短期工作记忆与长期情景记忆分离，以提升控制力与可扩展性。

实验结果

研究问题

• RQ1 如何增强 LLM 代理以在多轮对话中保持上下文连贯性？
• RQ2 受认知心理学启发的工作记忆机制在多大程度上能提升 LLM 代理的推理能力？
• RQ3 哪些架构组件是实现在孤立对话轮次间持久记忆保留所必需的？
• RQ4 如何在大型语言模型环境中有效编码、存储和检索情景记忆？
• RQ5 在设计安全、高效且具有优先级的 LLM 代理记忆系统时，关键挑战是什么？

主要发现

• 所提出的架构使 LLM 代理能够在多个对话轮次中保持并利用上下文信息，从而提升推理连贯性。
• 工作记忆中枢与情景缓冲区的整合，使复杂多轮任务中的响应更具细致性与上下文相关性。
• 初步结果表明，该模型在需要长距离依赖与跨轮次推理的任务中优于基线 LLM。
• 该框架为未来关于记忆优化的研究（包括编码、检索与优先级排序）提供了可扩展且模块化的基础。
• 本研究强调记忆机制是推动 LLM 代理实现人工通用智能的关键前沿领域。