[论文解读] Conceptual Framework for Autonomous Cognitive Entities

David Shapiro, Wangfan Li+2 more|arXiv (Cornell University)|Jan 1, 2023

Multi-Agent Systems and Negotiation被引用 3

一句话总结

本文提出了自主认知实体（ACE）框架，一种六层、分层的认知架构，将伦理推理、战略规划与任务执行整合于自主AI系统之中。受OSI模型启发，ACE通过各层之间的双向信息流，实现稳健且价值对齐的智能体行为，已在工业应用中得到验证，并为未来通用人工智能（AGI）的发展奠定基础。

ABSTRACT

The rapid development and adoption of Generative AI (GAI) technology in the form of chatbots such as ChatGPT and Claude has greatly increased interest in agentic machines. This paper introduces the Autonomous Cognitive Entity (ACE) model, a novel framework for a cognitive architecture, enabling machines and software agents to operate more independently. Drawing inspiration from the OSI model, the ACE framework presents layers of abstraction to conceptualize artificial cognitive architectures. The model is designed to harness the capabilities of the latest generative AI technologies, including large language models (LLMs) and multimodal generative models (MMMs), to build autonomous, agentic systems. The ACE framework comprises six layers: the Aspirational Layer, Global Strategy, Agent Model, Executive Function, Cognitive Control, and Task Prosecution. Each layer plays a distinct role, ranging from setting the moral compass and strategic thinking to task selection and execution. The ACE framework also incorporates mechanisms for handling failures and adapting actions, thereby enhancing the robustness and flexibility of autonomous agents. This paper introduces the conceptual framework and proposes implementation strategies that have been tested and observed in industry. The goal of this paper is to formalize this framework so as to be more accessible.

研究动机与目标

• 解决当前自主AI系统中伦理推理与价值对齐整合不足的问题。
• 设计一种可扩展、模块化的认知架构，统一道德推理与实际任务执行。
• 使自主智能体能够通过分层抽象实现动态适应、自我监控与行为校正。
• 形式化一个概念性框架，指导有益性、可纠正性与鲁棒性智能体系统的工程实现。
• 提供一个跨学科基础，整合神经科学、哲学、心理学与软件工程的洞见，以推动AGI发展。

提出的方法

• ACE框架采用六个独立层级：抱负层、全局战略层、智能体模型层、执行功能层、认知控制层与任务执行层。
• 每一层级执行专门的认知功能，从高层级的道德推理到低层级的动作执行。
• 双向信息流支持自上而下的监督（如伦理干预）与自下而上的执行反馈学习。
• 该架构受OSI模型启发，强调模块化、安全性以及层级间清晰的接口定义。
• 伦理推理同时整合义务论与目的论框架，避免非此即彼的二元对立。
• 该模型对底层机器学习技术保持中立，支持与大语言模型（LLMs）及多模态生成模型的集成。

实验结果

研究问题

• RQ1 如何系统性地将伦理推理与价值对齐嵌入自主智能体的认知架构中？
• RQ2 何种分层抽象能够实现智能体系统在鲁棒性、可纠正性与适应性方面的卓越表现？
• RQ3 认知层级之间的双向信息流如何增强系统的透明度与适应能力？
• RQ4 大语言模型（LLMs）与多模态模型在架构上应如何整合，以同时支持推理与执行？
• RQ5 像ACE这样的概念性框架应如何被形式化并实现于现实世界部署与基准测试中？

主要发现

• ACE框架提供了一个正式的、分层的认知架构，将伦理推理与自主系统中的任务执行相融合。
• 分层结构实现了职责的清晰分离，通过权限隔离增强了可解释性与安全性。
• 双向通信支持自上而下的伦理监督与自下而上的适应性调整，显著提升系统的鲁棒性与可纠正性。
• 该框架已在工业应用中经过测试并被观察到实际运行，证明其在真实世界智能体系统中的可行性。
• 该模型对特定大语言模型（LLMs）或架构保持中立，支持在各类AI系统中广泛适用与可扩展性。
• 该框架为未来研究奠定了基础，涵盖形式化验证、基准测试以及自主认知系统迭代优化。