[論文レビュー] Synergistic Integration of Large Language Models and Cognitive Architectures for Robust AI: An Exploratory Analysis

Oscar J. Romero, John Zimmerman+2 more|arXiv (Cornell University)|Aug 18, 2023

Language and cultural evolutionSocial Sciences被引用数 3

ひとこと要約

本論文は、大規模言語モデル（LLMs）と認知アーキテクチャ（CAs）を統合する3つのアプローチ——モジュラー型、エージェンシー型、ニューロ・シンボリック型——を提案し、AIの頑健性を向上させる。LLMsを用いてシンボリック知識を抽出し、CAsを用いて構造的推論を実施することで、幻覚現象の低減、一貫性の向上、説明可能でスケーラブルなAIシステムの実現を、相乗効果を生む設計によって実現する。

ABSTRACT

This paper explores the integration of two AI subdisciplines employed in the development of artificial agents that exhibit intelligent behavior: Large Language Models (LLMs) and Cognitive Architectures (CAs). We present three integration approaches, each grounded in theoretical models and supported by preliminary empirical evidence. The modular approach, which introduces four models with varying degrees of integration, makes use of chain-of-thought prompting, and draws inspiration from augmented LLMs, the Common Model of Cognition, and the simulation theory of cognition. The agency approach, motivated by the Society of Mind theory and the LIDA cognitive architecture, proposes the formation of agent collections that interact at micro and macro cognitive levels, driven by either LLMs or symbolic components. The neuro-symbolic approach, which takes inspiration from the CLARION cognitive architecture, proposes a model where bottom-up learning extracts symbolic representations from an LLM layer and top-down guidance utilizes symbolic representations to direct prompt engineering in the LLM layer. These approaches aim to harness the strengths of both LLMs and CAs, while mitigating their weaknesses, thereby advancing the development of more robust AI systems. We discuss the tradeoffs and challenges associated with each approach.

研究の動機と目的

• 単独のLLMに見られる限界、例えば幻覚現象、推論の一貫性の欠如、解釈不能性を是正すること。
• LLMsを用いて動的知識獲得を可能にすることで、CAsの知識スケーラビリティとドメイン一般化能力の制限を克服すること。
• LLMsのパターン認識能力とCAsの構造的シンボリック推論能力を効果的に統合したハイブリッドアーキテクチャを構築し、頑健なAIを実現すること。
• LLMsとCAsがどのように共進化し得るかを調査し、複雑な環境において長期的かつ一貫性のある、説明可能な意思決定を支援すること。
• LLMsとCAsを統合するフレームワークを提供し、自律エージェントにおけるシステムのレジリエンス、適応性、信頼性を向上させること。

提案手法

• 4段階の統合レベルを持つモジュラー型アプローチを提案：緩く結合された状態（LLMがCAの出力を補完）から、密結合された状態（シンボリック・コンネクショニスティック処理を共有）まで。
• チェーン・オブ・トゥグラウンディング・プロンプトとシンボリック生産規則を用いてLLMの推論を誘導し、複雑なタスクの段階的分解を可能にする。
• マインドの社会とLIDAアーキテクチャにインspiredされたエージェンシー型アプローチを導入。複数のエージェント（LLMベースまたはシンボリックベース）がマイクロおよびマクロレベルで相互作用する。
• CLARIONに基づくニューロ・シンボリック型アプローチを開発。LLMsを用いて自然言語からシンボリック規則を抽出し、それらをシンボリック推論エンジンに供給する。
• CAフレームワーク内での世界モデリング、計画、メモリ管理のため、LLMsを用いてシンボリック表現を生成・精練する。
• プロンプト工学と自動プログラム生成（例：PAL）を適用し、LLM出力をCA実行可能なシンボリック論理に一致させる。

実験結果

リサーチクエスチョン

• RQ1 LLMsとCAsをどのように統合することで、AIエージェントにおける推論の一貫性を向上させ、幻覚現象を低減できるか？
• RQ2 自律システムにおける接続主義的（LLM）処理とシンボリック的（CA）処理の間で、どのようなアーキテクチャ的構成が効果的な相乗効果を生むか？
• RQ3 LLMsがCAの知識表現とスケーラビリティをどれほど向上できるか。ただし、解釈可能性と有界合理的性を維持することが前提である。
• RQ4 異なる統合レベル（モジュラー型、エージェンシー型、ニューロ・シンボリック型）が、システムの頑健性、誤り伝播、計画の信頼性に与える影響はどの程度か？
• RQ5 ハイブリッドシステムは、LLMsを用いて動的かつ世界モデリングを可能にし、CAコンponentsを用いて熟考的かつ目的指向の計画を実現できるか？

主な発見

• モジュラー型アプローチは段階的統合を可能にし、最も緩い結合状態ではCAの出力をコンテキスト学習に活用できるが、高レベルの推論に制限が生じる。
• 密結合されたモジュラー型モデルでは、LLMsがオントロジーを埋め込み、構文的に正しいCAの生産物を生成可能となり、世界モデリングとシンボリック推論の両方を向上させる。
• エージェンシー型アプローチは、冗長なエージェント役割と自己認識的役割遂行により、推論チェーンにおける連鎖的失敗の低減を実現し、システムのレジリエンスを向上させる。
• ニューロ・シンボリック統合により、自然言語とシンボリック論理の間で双方向変換が可能となり、継続的な規則一般化と説明可能な意思決定を支援する。
• すべてのアプローチが、完全にプロンプトベースのLLM実行に依存するのを減らし、シンボリックコンponentsが幻覚現象の低減に寄与する構造的・一貫性ある基盤を提供する。
• 利点がある一方で、すべてのアプローチはLLMの信頼性に関する課題を抱えており、計画や知識抽出における幻覚的または偏った出力が原因で誤り伝播が生じるリスクがある。