[論文レビュー] Conceptual Framework for Autonomous Cognitive Entities

David Shapiro, Wangfan Li+2 more|arXiv (Cornell University)|Jan 1, 2023

Multi-Agent Systems and Negotiation被引用数 3

ひとこと要約

本論文は、自律的AIシステムにおける倫理的推論、戦略的計画、タスク実行を統合する六層構造の階層的認知アーキテクチャ「自律的認知エンティティ（ACE）」フレームワークを提案する。OSIモデルにインspiredされ、層間を往復する情報フローにより、強固で価値に整合したエージェント行動を実現する。産業応用において実現可能性が示され、将来のAGI開発の基盤を提供する。

ABSTRACT

The rapid development and adoption of Generative AI (GAI) technology in the form of chatbots such as ChatGPT and Claude has greatly increased interest in agentic machines. This paper introduces the Autonomous Cognitive Entity (ACE) model, a novel framework for a cognitive architecture, enabling machines and software agents to operate more independently. Drawing inspiration from the OSI model, the ACE framework presents layers of abstraction to conceptualize artificial cognitive architectures. The model is designed to harness the capabilities of the latest generative AI technologies, including large language models (LLMs) and multimodal generative models (MMMs), to build autonomous, agentic systems. The ACE framework comprises six layers: the Aspirational Layer, Global Strategy, Agent Model, Executive Function, Cognitive Control, and Task Prosecution. Each layer plays a distinct role, ranging from setting the moral compass and strategic thinking to task selection and execution. The ACE framework also incorporates mechanisms for handling failures and adapting actions, thereby enhancing the robustness and flexibility of autonomous agents. This paper introduces the conceptual framework and proposes implementation strategies that have been tested and observed in industry. The goal of this paper is to formalize this framework so as to be more accessible.

研究の動機と目的

• 自律的AIシステムにおける統合的倫理的推論と価値整合性の欠如に対処すること。
• 道徳的推論と実務的タスク実行を統合するスケーラブルでモジュラーな認知アーキテクチャを設計すること。
• 階層的抽象化を通じて、自律的エージェントが動的に適応し、自己監視および行動の是正を行う仕組みを可能にすること。
• 有益で是正可能かつ強固なエージェントシステムの設計を導く概念的フレームワークを形式化すること。
• 神経科学、哲学、心理学、ソフトウェア工学の知見を統合する横断的基盤を提供し、AGI開発を支援すること。

提案手法

• ACEフレームワークは、志向層、グローバル戦略層、エージェントモデル層、執行機能層、認知制御層、タスク遂行層の六つの異なる層から構成される。
• 各層は、高レベルの道徳的推論から低レベルの行動実行まで、特化した認知的機能を果たす。
• 双方向の情報フローにより、上位からの監視（例：倫理的干渉）と下位からの実行フィードバックからの学習が可能になる。
• アーキテクチャはOSIモデルにインspiredされ、層間のモジュラリティ、セキュリティ、明確なインターフェース定義を強調する。
• 倫理的推論は、義務論的および目的論的フレームワークを統合し、「どちらか一方」のアプローチを避ける。
• モデルは下位の機械学習技術に依存せず、LLMやマルチモーダル生成モデルとの統合を可能にする。

実験結果

リサーチクエスチョン

• RQ1 自律的エージェントの認知アーキテクチャに、どのようにして倫理的推論と価値整合性を体系的に組み込むことができるか？
• RQ2 どのような階層的抽象化が、エージェントシステムにおける強固さ、是正可能性、適応性を実現するか？
• RQ3 認知層間の双方向情報フローは、システムの透明性と適応性をどのように向上させるか？
• RQ4 LLMやマルチモーダルモデルは、どのようにしてアーキテクチャ的に統合され、推論と実行を両立させるか？
• RQ5 ACEのような概念的フレームワークは、どのように形式化され、実世界の展開とベンチマークに適用可能になるか？

主な発見

• ACEフレームワークは、自律的システムにおける倫理的推論とタスク実行を統合する形式的で階層的な認知アーキテクチャを提供する。
• 階層的構造により、責任の明確化が可能になり、特権分離による解釈可能性とセキュリティの向上が実現される。
• 双方向通信により、上位からの倫理的監視と下位からの適応が可能となり、システムの強度と是正可能性が向上する。
• フレームワークは産業応用においてテストされ、実世界のエージェントシステムにおける実現可能性が確認された。
• モデルは特定のLLMやアーキテクチャに依存しないため、幅広いAIシステムへの適用可能性と拡張性を有する。
• フレームワークは、将来的な研究の基盤を提供し、形式的検証、ベンチマーク、自律的認知システムの反復的改善が可能になる。