[論文レビュー] Persona-Driven Benchmarking for Generalizable and Human-Aware Artificial General Intelligence

Shunyu Yao, Jeffrey Zhao+5 more|arXiv (Cornell University)|Oct 6, 2022

Topic Modeling被引用数 518

ひとこと要約

この論文は ｡モデル というプロンプトベースのパラダイムを導入します。大規模言語モデルにおける推論過程と行動を交互に組み合わせることで、QA、事実検証、対話型意思決定タスクのパフォーマンスと解釈可能性を改善し、ベースラインを上回り、より良い人間との整合を実現します。

ABSTRACT

This research paper, "Persona-Driven Benchmarking for Generalizable and Human-Aware Artificial General Intelligence," proposes a novel architectural solution to transition current Large Language Models (LLMs) from sophisticated pattern-matchers to genuine Artificial General Intelligence (AGI) agents. The core argument of the paper is that achieving AGI is primarily an architectural challenge (creating a "gearbox" of metacognitive functions) rather than solely a scaling or fundamental modeling problem (the "engine"). The proposed framework is an architectural overlay composed of three synergistic components that address the key limitations of contemporary LLMs: lack of persistent memory, poor accountability, and narrow human-centric reasoning. Key Components of the Proposed Architecture Persona Module (for Dynamic Contextualization and Self-Awareness): Function: Handles the dynamic contextualization of all interactions, performs causal intent inference regarding the user's needs, and manages the AGI's evolving, internal self-identity (or "self-model"). Goal: To enable the AGI to move beyond simple response generation to goal-oriented optimization based on a deep, human-aware understanding of the user and its own capabilities. Benchmarking Loop (for Metacognitive Self-Correction): Function: This component acts as the AGI's metacognitive self-correction engine. It rigorously audits the LLM's output against a goal-specific metric, performs causal inference to determine why a failure occurred, and then dictates a permanent learning path. Goal: To foster an internal, continuous learning cycle that ensures the AGI is accountable and capable of generalized skill transfer from one task to a similar, new one. FedRAG (Federated Reflective Augmented Generation): Function: A novel, persistent external memory layer that functions as a dynamic knowledge graph. It is crucial because it decouples learned skills and state from the static LLM weights. It stores successful outcomes, critical causal inferences from the Benchmarking Loop, user preferences, and Persona state updates. Goal: To provide the AGI with persistent, generalizable memory and ensure that learning is permanent, efficient, and does not lead to catastrophic forgetting or excessive model scaling. Central Thesis The paper asserts that the integrated, recursive loop formed by these three components—where the Benchmarking Loop's reflective output is written to the FedRAG memory for use by the Persona Module in future interactions—is the necessary architectural scaffold to achieve true, generalizable, and human-aware AGI.

研究の動機と目的

• 推論と行動の密結合を促進して、LLM駆動タスクにおけるロバスト性と解釈可能性を向上させる。
• 推論トレースと行動を交互に組み合わせることで、推論のみまたは行動のみのベースラインよりも多様なベンチマークで優れていることを示す。
• 可視化された推論トラジェクトリを通じて、解釈性・信頼性・診断可能性の向上を示す。
• 外部知識取得と内部推論が知識集約型タスクでどのように補完し合うかを評価する。

提案手法

• エージェントの行動空間を拡張し、将来のステップの文脈を更新する言語ベースの推論トレースを含める。
• 凍結された PaLM-540B（および補足の GPT-3）を few-shot トラジェクトリで thoughts、actions、observations を含む形でプロンプトする。
• 推論を事実に grounded にするため、検索、lookup、finish などのアクションを含む単純な外部知識API（Wikipedia）を使用する。
• 複数のタスクで ｡ model を Standard、CoT、CoT-SC、Act ベースラインと比較する。
• タスクフィードバックに基づいて ｡ model と CoT-SC の間を切り替え、内部知識と外部知識を活用するハイブリッド prompting を提案する。
• HotpotQA に対する思考・行動・観察の三千程度のトラジェクトリでファインチューニングを行い、 thoughts、actions、observations のデコーディングを改善する。

実験結果

リサーチクエスチョン

• RQ1 推論トレースと行動を交互に組み合わせることで、推論のみまたは行動のみのベースラインよりパフォーマンスと解釈性を改善できるか。
• RQ2 外部知識ベース（例：Wikipedia）と対話することは、 grounded な推論を改善し、幻覚を減らすのに役立つか。
• RQ3 内部推論と外部知識を組み合わせることが、QAと事実検証タスクにどのような影響を与えるか。
• RQ4 対話型意思決定ベンチマークにおける ｡ model の性能は、模倣学習および強化学習ベースラインと比較してどうか。
• RQ5 ファインチューニングは trajecotory のデコード能力を高め、新しいタスクへの generalization を促進するか。

主な発見

• ｡ model は HotpotQA および Fever で行動のみのベースラインを上回り、 ｡ model と CoT-SC の組み合わせは一部の設定で最良の prompting 結果をもたらす。
• ｡ model は、関連する事実のために単純な Wikipedia API にアクセスすることで幻覚を減らし、 grounding を改善。
• ALFWorld および WebShop で、限られた文脈内例で強力なベースラインに対して絶対的に大きな改善（それぞれ 34% および 10%）を達成。
• ｡ model は、人間が検査して意思決定を信頼できる推論軌跡（ thoughts, actions, observations ）を提供。
• prompting のみではスケールは控えめだが、数千のトラジェクトリでファインチューニングすると HotpotQA で評価されたオプションの中で最良の方法になる。
• ｡ model はさまざまな領域で頑健で汎用的なフレームワークを提供し、強化学習やマルチタスク訓練と組み合わせるとさらなる改善の可能性を持つ。