[論文レビュー] RET-LLM: Towards a General Read-Write Memory for Large Language Models

Ali Modarressi, Ayyoob Imani+2 more|arXiv (Cornell University)|May 23, 2023

Topic Modeling被引用数 6

ひとこと要約

Ret-LLM は、大規模言語モデル（LLM）に汎用的な読み書き可能メモリモジュールを導入し、ダヴィデュソン的意味論にインspiredされた三項表現（例：<主語, 関係, 宾語>）を通じて明示的な知識の保存と取得を可能にする。このフレームワークは、微調整されたLLMをコントローラーとして用い、メモリAPIコールを生成し、データベースを含む多様なソースからのスケーラブルで解釈可能で更新可能な知識保存をサポートする。質問応答タスク、特に時系列的および集計的タスクにおいて、すべての必要な情報がコンテキスト内に存在するにもかかわらずゼロショットLLMに失敗する状況でも、優れた性能を示す。

ABSTRACT

Large language models (LLMs) have significantly advanced the field of natural language processing (NLP) through their extensive parameters and comprehensive data utilization. However, existing LLMs lack a dedicated memory unit, limiting their ability to explicitly store and retrieve knowledge for various tasks. In this paper, we propose RET-LLM a novel framework that equips LLMs with a general write-read memory unit, allowing them to extract, store, and recall knowledge from the text as needed for task performance. Inspired by Davidsonian semantics theory, we extract and save knowledge in the form of triplets. The memory unit is designed to be scalable, aggregatable, updatable, and interpretable. Through qualitative evaluations, we demonstrate the superiority of our proposed framework over baseline approaches in question answering tasks. Moreover, our framework exhibits robust performance in handling temporal-based question answering tasks, showcasing its ability to effectively manage time-dependent information.

研究の動機と目的

• 大規模言語モデル（LLM）に、現在はパラメータに暗黙的に埋め込まれている知識の明示的かつ持続的メモリの欠如に対処する。
• LLMがテキスト、SQL、NoSQL、スプレッドシートなどを含む多様なソースから、明示的に知識を保存・取得・更新できるようにする。
• スケーラブルで解釈可能で集計可能なメモリ操作をサポートし、複数の文書に散在する事実を統合できるようにする。
• 時系列的コンテキストや複数文書の集計を含む複雑な質問応答タスクにおける性能を向上させる。
• メモリ操作をLLMから分離するモジュラーでコントローラー駆動のアーキテクチャを提供し、保守性と解釈可能性を高める。

提案手法

• フレームワークは、言語モデル（Alpaca-7B）、コントローラー、メモリユニットを統合し、コントローラーがユーザー入力、LLM、メモリ間の相互作用を調整する。
• 知識は、ダヴィデュソン的意味論にインspiredされた、微調整されたLLMを用いてテキストから三項 <概念1, 関係, 概念2> の形で抽出される。
• メモリユニットは三項とそのベクトル埋め込みを格納し、埋め込みのLSHベースのハッシュ化により、正確一致およびファジー検索を可能にする。
• LLMが入力コンテキストに基づいてAPIコールを生成することで、メモリAPIが作成され、書き込み（保存）および読み込み（取得）操作を処理する。
• パrameter効率を高めるためにLoRAを用いた指令チューニングが実施され、損失関数は入力シーケンスのAPI生成部分にのみ適用される。
• システムは動的更新と関連事実の集計をサポートし、複数の文書から国に属するすべての都市をリストアップするようなタスクを可能にする。

実験結果

リサーチクエスチョン

• RQ1 汎用的で読み書き可能なメモリモジュールをLLMに効果的に統合し、明示的な知識の保存と取得を可能にできるか？
• RQ2 三項ベースのメモリ表現は、複数の文書およびデータソースにまたがる解釈可能で集計可能な知識管理をどのように支援するか？
• RQ3 提案されたフレームワークは、必要な情報がコンテキスト内に存在するがゼロショットモデルが正しく活用できない質問応答タスクにおいて、LLMの性能を向上させられるか？
• RQ4 再トレーニングなしで、政治的指導者の変更などの時系列的知識の更新をシステムはどのように処理するか？
• RQ5 メモリモジュールは、SQLやNoSQLデータベースなどの非テキストデータソースをサポートするために、どの程度拡張可能か？

主な発見

• Ret-LLMフレームワークは、必要な情報がすでに入力コンテキスト内に存在する場合でも、LLMが知識を明示的に保存・取得できることを実証した。ゼロショット設定で観察された失敗を是正した。
• ゼロショット評価において、ベースのAlpaca-7Bモデルはコンテキスト内に必要なすべての情報が存在するにもかかわらず、正しく質問に答えられなかったが、Ret-LLMは正しくメモリに格納された三項を取得・利用した。
• フレームワークは、例えば現在の米国大統領を特定するような時系列的質問応答タスクにおいて、モデルの再トレーニングなしにメモリの更新を可能にすることで、強力な性能を示した。
• 三項ベースの保存方式により、複数の文書から得た散在する事実の集約が効果的に可能となり、例えば複数文書から都市の一覧を編集することができた。
• LLMが生成するメモリAPIコールを用いたコントローラー駆動のアーキテクチャにより、LLMとメモリユニット間のシームレスで解釈可能でモジュラーな相互作用が実現した。
• LoRAを用いた実装により、単一のA6000 GPU上での効率的な微調整が可能であり、リソース制限のある環境でも実現可能性を示した。