[論文レビュー] TA-Mem: Tool-Augmented Autonomous Memory Retrieval for LLM in Long-Term Conversational QA

Mengwei Yuan, Jianan Liu+5 more|arXiv (Cornell University)|Mar 10, 2026

Topic Modeling被引用数 0

ひとこと要約

TA-Mem は、適応的な記憶抽出、多重インデックス化されたストレージ、ツール駆動の検索を組み合わせた、長期会話における LLM のためのツール強化自律的記憶検索フレームワークである。 LoCoMo のベースラインより性能が向上し、質問タイプ別のツール使用を分析する。

ABSTRACT

Large Language Model (LLM) has exhibited strong reasoning ability in text-based contexts across various domains, yet the limitation of context window poses challenges for the model on long-range inference tasks and necessitates a memory storage system. While many current storage approaches have been proposed with episodic notes and graph representations of memory, retrieval methods still primarily rely on predefined workflows or static similarity top-k over embeddings. To address this inflexibility, we introduced a novel tool-augmented autonomous memory retrieval framework (TA-Mem), which contains: (1) a memory extraction LLM agent which is prompted to adaptively chuck an input into sub-context based on semantic correlation, and extract information into structured notes, (2) a multi-indexed memory database designed for different types of query methods including both key-based lookup and similarity-based retrieval, (3) a tool-augmented memory retrieval agent which explores the memory autonomously by selecting appropriate tools provided by the database based on the user input, and decides whether to proceed to the next iteration or finalizing the response after reasoning on the fetched memories. The TA-Mem is evaluated on the LoCoMo dataset, achieving significant performance improvements over existing baseline approaches. In addition, an analysis of tool use across different question types also demonstrates the adaptivity of the proposed method.

研究の動機と目的

• LLM の長期会話 QA におけるメモリとコンテキスト窓の制限に対処する。
• 適応的抽出、多型のインデックス付け、ツールベースの検索を備えた柔軟な記憶検索システムを開発する。
• ツールを用いた自律的な記憶探索を有効にし、検索と応答生成を改善する。

提案手法

• 入力を意味的に相関するサブコンテキストへ適応的に分割し、構造化ノートを抽出する記憶抽出 LLM エージェントを導入する。
• キー ベースの検索と類似性ベースの検索をサポートする多重インデックス化記憶データベースを設計し、多様な問合せ手法に対応する。
• ユーザー入力と推論の進行に基づき、適切なツールをデータベースから自律的に選択するツール強化記憶検索エージェントを提案する。

実験結果

リサーチクエスチョン

• RQ1 LLM ベースの長期 QA における記憶検索を、固定ワークフローや静的埋め込みより柔軟にするにはどうすればよいか。
• RQ2 ツール強化記憶検索エージェントは自律的に記憶をナビゲートして応答品質を向上させることができるか。
• RQ3 長期対話タスクにおける異なる問合せ方法に対する多重インデックス記憶ストレージの利点は何か。

主な発見

• TA-Mem フレームワークは LoCoMo データセット上で既存のベースラインより顕著な性能向上を達成する。
• さまざまな質問タイプにわたるツール使用分析は、アプローチの適応性を示す。
• このフレームワークは適応的記憶抽出と自律的なツール駆動検索を組み合わせて、長期 QA を強化する。