[論文レビュー] SCM: Enhancing Large Language Model with Self-Controlled Memory Framework

Bing Wang, Xinnian Liang+7 more|arXiv (Cornell University)|Apr 26, 2023

Topic Modeling被引用数 4

ひとこと要約

本稿では、モデルの微調整やアーキテクチャの変更なしに、大規模言語モデル（LLMs）が超長入力を処理できるようにする、プラグアンドプレイなフレームワークである自己制御メモリ（SCM）を提案する。メモリコントローラー、メモリストリーム、LLMベースのエージェントを統合することで、SCMは関連する履歴情報を動的に選択・統合し、ChatGPTなどのベースラインと比較して、長期間の推論および要約性能を顕著に向上させる。

ABSTRACT

Large Language Models (LLMs) are constrained by their inability to process lengthy inputs, resulting in the loss of critical historical information. To address this limitation, in this paper, we propose the Self-Controlled Memory (SCM) framework to enhance the ability of LLMs to maintain long-term memory and recall relevant information. Our SCM framework comprises three key components: an LLM-based agent serving as the backbone of the framework, a memory stream storing agent memories, and a memory controller updating memories and determining when and how to utilize memories from memory stream. Additionally, the proposed SCM is able to process ultra-long texts without any modification or fine-tuning, which can integrate with any instruction following LLMs in a plug-and-play paradigm. Furthermore, we annotate a dataset to evaluate the effectiveness of SCM for handling lengthy inputs. The annotated dataset covers three tasks: long-term dialogues, book summarization, and meeting summarization. Experimental results demonstrate that our method achieves better retrieval recall and generates more informative responses compared to competitive baselines in long-term dialogues. (https://github.com/wbbeyourself/SCM4LLMs)

研究の動機と目的

• コンテキストウィンドウの制限および注意計算コストの高さにより、LLMsが超長入力を処理できることの制限を解消すること。
• 重要な履歴情報を忘れずに維持・取得できる長期記憶をLLMsに維持させること。
• モデルの微調整やアーキテクチャ変更を必要としない、プラグアンドプレイなフレームワークを開発すること。
• 対話、書籍要約、会議要約などの長期間タスクにおいて、フレームワークを評価すること。
• 長期間のLLM性能をベンチマークするための新しいアノテート済みデータセットを作成すること。

提案手法

• SCMフレームワークは、LLMベースのエージェント、長期記憶を格納するメモリストリーム、および動的メモリ管理を担うメモリコントローラーの3つのコンponentsから構成される。
• 入力テキストは断片化され、繰り返し処理され、メモリコントローラーがメモリストリームから関連するメモリをいつ、どのようにLLMの入力に統合するかを決定する。
• 2種類のメモリタイプ（活性化メモリ（長期）およびフラッシュメモリ（短期））を採用することで、断片間での履歴コンテキストの保持が可能になる。
• メモリの取得と再編成は、メモリコントローラーが関係のないまたはノイズの多い情報をフィルタリングすることで干渉を低減する。
• 6段階のワークフローを採用する：入力取得、メモリ活性化、メモリ取得、メモリ再編成、入力統合、応答生成。
• 関連するメモリをドキュメント断片間で伝達することで、階層的かつ反復的な要約を可能にし、一貫性を維持する。

実験結果

リサーチクエスチョン

• RQ1 微調整やモデル変更なしに、プラグアンドプレイなフレームワークがLLMsの有効なコンテキスト長を拡張できるか。
• RQ2 メモリコントローラーが関連する履歴情報を効果的に選択・統合することで、長期間の理解をどの程度向上できるか。
• RQ3 SCMフレームワークは、既存の手法に比べて長期間の対話および文書要約タスクで優れた性能を示すか。
• RQ4 メモリコントローラーは、長期間の入力における履歴ノイズの影響をどの程度低減できるか。
• RQ5 フレームワークは、超長文書の階層的要約において一貫性を維持できるか。

主な発見

• SCMフレームワークにより、対話に最適化されていないLLMs（例：text-davinci-003）で、20万トークンを超える入力でもChatGPTと同等のマルチターン対話能力を達成した。
• 長文書要約において、SCMベースのモデルは一貫性およびカバレッジの両面でベースラインを上回り、超長入力（最大200万トークン）において要約品質に顕著な向上を示した。
• メモリコントローラーは、必要なメモリのみを効果的に統合することでノイズを低減し、長期間対話における検索再現率および応答の情報量を向上させた。
• フレームワークは、微調整なしに、すべての3つの評価タスク（長期対話、書籍要約、会議要約）で優れた性能を示した。
• 2万～200万トークンのインスタンスをカバーするアノテート済みデータセットは、フレームワークが標準的なLLMのコンテキストウィンドウをはるかに超える入力を処理できることを示している。
• SCMのプラグアンドプレイ性により、任意の指示従い型LLMとのシームレスな統合が可能となり、スケーラビリティおよびデプロイ可能性が向上する。