[論文レビュー] Empowering Working Memory for Large Language Model Agents

Jing Guo, Nan Li+6 more|arXiv (Cornell University)|Dec 22, 2023

Topic Modeling被引用数 5

ひとこと要約

本論文は、会話エピソードをまたいで持続的で文脈的に連続する記憶を実現するため、集中型の作業記憶ハブとエピソード的バッファを統合した、画期的なLLMエージェントアーキテクチャを提案する。人間の認知的作業記憶を模倣することで、複雑でマルチターンのタスクにおける推論を向上させ、人間らしい記憶機能を備えた人工汎用知能の基盤的枠組みを提供する。

ABSTRACT

Large language models (LLMs) have achieved impressive linguistic capabilities. However, a key limitation persists in their lack of human-like memory faculties. LLMs exhibit constrained memory retention across sequential interactions, hindering complex reasoning. This paper explores the potential of applying cognitive psychology's working memory frameworks, to enhance LLM architecture. The limitations of traditional LLM memory designs are analyzed, including their isolation of distinct dialog episodes and lack of persistent memory links. To address this, an innovative model is proposed incorporating a centralized Working Memory Hub and Episodic Buffer access to retain memories across episodes. This architecture aims to provide greater continuity for nuanced contextual reasoning during intricate tasks and collaborative scenarios. While promising, further research is required into optimizing episodic memory encoding, storage, prioritization, retrieval, and security. Overall, this paper provides a strategic blueprint for developing LLM agents with more sophisticated, human-like memory capabilities, highlighting memory mechanisms as a vital frontier in artificial general intelligence.

研究の動機と目的

• LLMが順次的相互作用の間で文脈的情報を保持するという限界に対処すること。
• 従来のLLMアーキテクチャにおける会話エピソードの隔離と恒久的記憶リンクの欠如を克服すること。
• 作業記憶の認知心理学フレームワークにインspiredされた、記憶拡張型LLMエージェントを設計すること。
• 改善された記憶連続性を通じて、複雑で協調的なタスクにおけるより洗練された連続的推論を可能にすること。
• 先進的で人間らしい記憶メカニズムを備えたLLMエージェントを開発する戦略的ブループrintを確立すること。

提案手法

• 相互作用全体にわたり、アクティブでタスク関連の情報を格納・管理する集中型作業記憶ハブを導入する。
• 過去の会話から得た長期的エピソード的記憶を符号化・格納・取得するエピソード的バッファを統合する。
• ハブとエピソード的バッファを介して、現在の推論と関連する過去のエピソードをリンクするメモリ統合メカニズムを設計する。
• 現在のタスク文脈に基づいて動的にメモリ内容を取得・更新するためのアテンションベースのメカニズムを採用する。
• 会話ターン間で恒久的な記憶リンクを維持することで、推論の連続性を確保するアーキテクチャを構築する。
• 短期的作業記憶と長期的エピソード的記憶を分離するモジュラーなフレームワークを提案することで、制御性とスケーラビリティを向上させる。

実験結果

リサーチクエスチョン

• RQ1 LLMエージェントは、どのように複数の会話ターンにわたって文脈の連続性を維持できるか？
• RQ2 認知心理学にインspiredされた作業記憶メカニズムは、LLMエージェントの推論をどの程度向上させられるか？
• RQ3 孤立した会話エピソード間で恒久的記憶保持を実現するために必要なアーキテクチャ的要素は何か？
• RQ4 大規模言語モデル環境において、エピソード的記憶を効果的に符号化・格納・取得するにはどうすればよいか？
• RQ5 LLMエージェント向けに、安全で効率的かつ優先順位付けされたメモリシステムを設計するにあたり、主な課題は何か？

主な発見

• 提案されたアーキテクチャにより、LLMエージェントは複数の会話エピソードにわたり文脈的情報を維持・活用でき、推論の連続性が向上した。
• 作業記憶ハブとエピソード的バッファの統合により、複雑でマルチターンのタスクにおいて、より洗練され文脈に根ざした応答が可能になった。
• 予備的な結果から、長距離依存性やターン間推論を要するタスクにおいて、モデルがベースラインLLMを上回ることが示された。
• 符号化、取得、優先順位付けを含むメモリ最適化に関する今後の研究のためのスケーラブルでモジュラーな基盤を提供した。
• 本研究は、LLMエージェントにおける人工汎用知能の発展にとって、記憶メカニズムが重要なフロンティアであると強調した。