[論文レビュー] MemoryBank: Enhancing Large Language Models with Long-Term Memory

Wanjun Zhong, Lianghong Guo+3 more|arXiv (Cornell University)|May 17, 2023

AI in Service Interactions被引用数 15

ひとこと要約

MemoryBank は LLMs の長期記憶機構を導入し、記憶の保存・検索・更新を可能にする。忘却曲線に触発されたアプローチで、Past interactions を想起し、オープン・クローズド両モデルのユーザー個性へ適応する SiliconFriend を用いて実証される。

ABSTRACT

Revolutionary advancements in Large Language Models have drastically reshaped our interactions with artificial intelligence systems. Despite this, a notable hindrance remains-the deficiency of a long-term memory mechanism within these models. This shortfall becomes increasingly evident in situations demanding sustained interaction, such as personal companion systems and psychological counseling. Therefore, we propose MemoryBank, a novel memory mechanism tailored for LLMs. MemoryBank enables the models to summon relevant memories, continually evolve through continuous memory updates, comprehend, and adapt to a user personality by synthesizing information from past interactions. To mimic anthropomorphic behaviors and selectively preserve memory, MemoryBank incorporates a memory updating mechanism, inspired by the Ebbinghaus Forgetting Curve theory, which permits the AI to forget and reinforce memory based on time elapsed and the relative significance of the memory, thereby offering a human-like memory mechanism. MemoryBank is versatile in accommodating both closed-source models like ChatGPT and open-source models like ChatGLM. We exemplify application of MemoryBank through the creation of an LLM-based chatbot named SiliconFriend in a long-term AI Companion scenario. Further tuned with psychological dialogs, SiliconFriend displays heightened empathy in its interactions. Experiment involves both qualitative analysis with real-world user dialogs and quantitative analysis with simulated dialogs. In the latter, ChatGPT acts as users with diverse characteristics and generates long-term dialog contexts covering a wide array of topics. The results of our analysis reveal that SiliconFriend, equipped with MemoryBank, exhibits a strong capability for long-term companionship as it can provide emphatic response, recall relevant memories and understand user personality.

研究の動機と目的

• 現在のLLMsに長期記憶が欠如している点を解決し、AIコンパニオンや個人アシスタントなどの長期的な対話を改善する。
• 記憶を蓄積・検索・更新し、記憶を構築するメモリ-拡張フレームワークを提供する。
• オープンソースとクローズドソースのLLMs両方で一般化性と日英中対応を示す。
• 心理対話データで調整された実用的な実装（SiliconFriend）を用いて共感と記憶想起を高める。

提案手法

• MemoryBank は、記憶ストレージ、記憶リトリーバー、記憶アップデータからなる構成を提案する。
• エンコードされた記憶アイテムから効率的に検索するために、FAISS を用いたデュアルタワー密度検索を採用する。
• 忘却曲線に着想を得た記憶更新をモデル化し、記憶強度 S は離散、記憶衰退 t は想起時にリセットされる。
• 詳細な多ターン会話、日々のイベント要約、進化するユーザーパソイントリを階層的な記憶構造に格納する。
• 日次/全体イベント要約と人格洞察を生成するプロンプトを用いてユーザープロフィールを形成する。
• オープンソースとクローズドソースのLLMs（LoRA を用いたパラメータ効率的チューニングを適用）と連携を示す。

実験結果

リサーチクエスチョン

• RQ1 LLMs に長期的な記憶を与えて長期的な対話を支援できるか？
• RQ2 記憶の保存/検索/更新パイプラインはAIコンパニオンの想起、一貫性、パーソナライズを改善できるか？
• RQ3 MemoryBank はオープンソースとクローズドソースのLLMs双方および日英中の設定に対応しているか？
• RQ4 心理対話データでの調整は共感的で支援的な応答を高めるか？

主な発見

言語	モデル	取得精度	正確さ	一貫性	ランキング
English	SiliconFriend ChatGLM	0.809	0.438	0.68	0.498
English	SiliconFriend BELLE	0.814	0.479	0.582	0.517
English	SiliconFriend ChatGPT	0.763	0.716	0.912	0.818
Chinese	SiliconFriend ChatGLM	0.84	0.418	0.428	0.51
Chinese	SiliconFriend BELLE	0.856	0.603	0.562	0.565
Chinese	SiliconFriend ChatGPT	0.711	0.655	0.675	0.758

• MemoryBank を搭載した SiliconFriend は、記憶想起と共感的な応答を含む長期的なパートナーシップ能力を示す。
• 記憶検索の正確さと一貫性は SiliconFriend のバリアントで向上し、英語・中国語環境での ChatGPT が最良の結果を示した。
• 15人の仮想ユーザーとの10日間のシミュレート対話を横断した定量分析では、ヒープソートの例のような過去の提案やイベントの想起が、記憶プローブ間で見られた。
• 英語と中国語データで評価した際、SiliconFriend バリアントは高い検索正確性と強いモデルランキングを示し、言語依存の性能差があった。
• フレームワークはオープンソース（ChatGLM、BELLE）とクローズドソース（ChatGPT）の両モデルで機能し、汎用性を示している。