[논문 리뷰] Conceptual Framework for Autonomous Cognitive Entities

David Shapiro, Wangfan Li외 2명|arXiv (Cornell University)|2023. 01. 01.

Multi-Agent Systems and Negotiation인용 수 3

한 줄 요약

이 논문은 윤리적 사고, 전략적 계획 수립, 작업 실행을 통합한 6층 구조의 계층적 인지 아키텍처인 자율 인지 엔티티(ACE) 프레임워크를 제안한다. OSI 모델을 영감으로 삼아, 상하위 계층 간 双방향 정보 흐름을 통해 강력하고 가치에 부합하는 에이전트 행동을 가능하게 하며, 산업 응용 분야에서의 실현 가능성을 입증하고 향후 AGI 개발을 위한 기반을 마련한다.

ABSTRACT

The rapid development and adoption of Generative AI (GAI) technology in the form of chatbots such as ChatGPT and Claude has greatly increased interest in agentic machines. This paper introduces the Autonomous Cognitive Entity (ACE) model, a novel framework for a cognitive architecture, enabling machines and software agents to operate more independently. Drawing inspiration from the OSI model, the ACE framework presents layers of abstraction to conceptualize artificial cognitive architectures. The model is designed to harness the capabilities of the latest generative AI technologies, including large language models (LLMs) and multimodal generative models (MMMs), to build autonomous, agentic systems. The ACE framework comprises six layers: the Aspirational Layer, Global Strategy, Agent Model, Executive Function, Cognitive Control, and Task Prosecution. Each layer plays a distinct role, ranging from setting the moral compass and strategic thinking to task selection and execution. The ACE framework also incorporates mechanisms for handling failures and adapting actions, thereby enhancing the robustness and flexibility of autonomous agents. This paper introduces the conceptual framework and proposes implementation strategies that have been tested and observed in industry. The goal of this paper is to formalize this framework so as to be more accessible.

연구 동기 및 목표

• 자율 AI 시스템에서 윤리적 사고와 가치 일치가 통합되지 않은 문제를 해결하기 위해.
• 도구적 작업 실행과 윤리적 사고를 통합하는 확장 가능하고 모듈화된 인지 아키텍처를 설계하기 위해.
• 계층적 추상화를 통해 자율 에이전트가 동적으로 적응하고 자기 모니터링 및 행동 수정을 수행할 수 있도록 하기 위해.
• 유익하고 수정 가능하며 강건한 에이전트 시스템을 설계하는 데 지침이 되는 개념적 프레임워크를 체계화하기 위해.
• 신경과학, 철학, 심리학, 소프트웨어 공학 분야의 통찰을 융합하여 AGI 개발을 위한 다학제적 기반을 제공하기 위해.

제안 방법

• ACE 프레임워크는 다음과 같은 6개의 별도 계층을 활용한다: 비전, 글로벌 전략, 에이전트 모델, 실행 기능, 인지 제어, 작업 이행.
• 각 계층은 고수준 윤리적 사고에서 저수준 행동 실행에 이르기까지 전문화된 인지 기능을 수행한다.
• 상하향식 감시(예: 윤리적 간섭)와 하향식 실행 피드백 학습을 가능하게 하는 상하좌우 정보 흐름이 존재한다.
• 아키텍처는 OSI 모델을 모델로 삼아, 계층 간의 명확한 인터페이스 정의, 모듈성, 보안성을 강조한다.
• 윤리적 사고는 도그마틱 및 텔로로지컬 프레임워크를 모두 통합하여 '또는'이 아닌 '또한'의 접근 방식을 취한다.
• 모델은 기반 학습 기법에 대해 중립적이며, LLM 및 다중모달 생성 모델과의 통합을 지원한다.

실험 결과

연구 질문

• RQ1 어떻게 자율 에이전트의 인지 아키텍처에 윤리적 사고와 가치 일치를 체계적으로 통합할 수 있는가?
• RQ2 어떤 계층적 추상화가 에이전트 시스템에서 강력하고 수정 가능하며 적응 가능한 행동을 가능하게 하는가?
• RQ3 인지 계층 간 상하좌우 정보 흐름이 시스템의 투명성과 적응 가능성에 어떻게 기여하는가?
• RQ4 LLM과 다중모달 모델은 어떤 방식으로 아키텍처적으로 통합되어 사고와 실행을 모두 지원할 수 있는가?
• RQ5 ACE와 같은 개념적 프레임워크는 어떻게 체계화되고 실세계 구현 및 평가를 위해 작동 가능하게 할 수 있는가?

주요 결과

• ACE 프레임워크는 자율 시스템에서 윤리적 사고와 작업 실행을 통합한 공식적이고 계층적인 인지 아키텍처를 제공한다.
• 계층적 구조는 책임 분리에 의해 해석 가능성과 보안성을 향상시키는 명확한 기능 분리 기능을 가능하게 한다.
• 상하좌우 통신은 상향식 윤리적 감시와 하향식 적응을 가능하게 하여 시스템의 강건성과 수정 가능성을 향상시킨다.
• 프레임워크는 산업 응용 분야에서 테스트되었으며, 실제 에이전트 시스템에서의 실현 가능성을 입증했다.
• 모델은 특정 LLM이나 아키텍처에 종속되지 않아 다양한 AI 시스템에 넓은 적용과 확장성을 지원한다.
• 프레임워크는 향후 자율 인지 시스템의 공식적 검증, 평가 기준 설정, 반복적 개선 연구를 위한 기반을 마련한다.