[논문 리뷰] Designing Ecosystems of Intelligence from First Principles

Karl Friston, Maxwell J. D. Ramstead외 18명|arXiv (Cornell University)|2022. 12. 02.

Computability, Logic, AI Algorithms인용 수 14

한 줄 요약

이 논문은 활성 추론을 기반으로 하여 자유 에너지 최소화를 통해 계층적 모델에서 믿음 갱신을 통해 지능이 발생하는 다중 척도 인공지능 생태계 설계를 위한 원리적 프레임워크를 제안한다. 공동 생성 모델과 서사 일치를 통해 집단 지능의 형식적 기반을 마련하여 확장 가능하고 윤리적이며 적응 가능한 합성 및 인간 지능 시스템을 가능하게 한다.

ABSTRACT

This white paper lays out a vision of research and development in the field of artificial intelligence for the next decade (and beyond). Its denouement is a cyber-physical ecosystem of natural and synthetic sense-making, in which humans are integral participants -- what we call ''shared intelligence''. This vision is premised on active inference, a formulation of adaptive behavior that can be read as a physics of intelligence, and which inherits from the physics of self-organization. In this context, we understand intelligence as the capacity to accumulate evidence for a generative model of one's sensed world -- also known as self-evidencing. Formally, this corresponds to maximizing (Bayesian) model evidence, via belief updating over several scales: i.e., inference, learning, and model selection. Operationally, this self-evidencing can be realized via (variational) message passing or belief propagation on a factor graph. Crucially, active inference foregrounds an existential imperative of intelligent systems; namely, curiosity or the resolution of uncertainty. This same imperative underwrites belief sharing in ensembles of agents, in which certain aspects (i.e., factors) of each agent's generative world model provide a common ground or frame of reference. Active inference plays a foundational role in this ecology of belief sharing -- leading to a formal account of collective intelligence that rests on shared narratives and goals. We also consider the kinds of communication protocols that must be developed to enable such an ecosystem of intelligences and motivate the development of a shared hyper-spatial modeling language and transaction protocol, as a first -- and key -- step towards such an ecology.

연구 동기 및 목표

• 자기 증명과 모델 증거 최대화를 강조하는 원리적 기반에 기반한 통합된 물리학적 영감을 받은 인공지능 프레임워크를 개발하는 것.
• 감각, 인지, 행동 수준에서 변분 자유 에너지를 최소화하는 활성 추론 시스템으로서의 에이전트를 모델링하여 다중 척도의 분산 지능을 가능하게 하는 것.
• 공동 생성 모델과 서사 일치를 통해 집단 지능의 기반을 마련하여 이질적인 에이전트 간의 일관된 의사소통과 협력 가능성을 제공하는 것.
• 실시간으로 마찰 없이 상호작용할 수 있도록 사이버-물리적 지능 생태계에서 지원하는 통신 프로토콜과 초공간 모델링 언어를 설계하는 것.
• 자기 내재적 동기인 호기심, 불확실성 해결 및 공통 목표를 지능 시스템의 핵심 아키텍처에 통합하여 AI의 윤리적 및 도덕적 차원을 다루는 것.

제안 방법

• 요소 그래프에서 변분 추론을 통해 베이지안 모델 증거(자유 에너지)를 최대화하는 방식으로 지능을 형식화하여 다양한 척도에서 추론, 학습 및 모델 선택이 가능하도록 한다.
• 공통 인자를 통한 활성 추론을 다중 에이전트 시스템에 적용하여 에이전트 간의 생성 모델을 정렬함으로써 믿음 공유를 위한 공통 기준 프레임워크를 형성한다.
• 계층적이고 다중 척도의 모델에서 효율적이고 확장 가능한 추론을 구현하기 위해 요소 그래프에서 믿음 전파와 메시지 전달을 사용한다.
• 다양한 에이전트 간에 목표와 믿음을 일치시키는 메커니즘으로 '공동 서사'의 개념을 도입하여 집단적 의사결정과 조율된 행동을 가능하게 한다.
• 분산된 AI 생태계에서 상호작용을 표준화하기 위해 초공간 모델링 언어와 트랜잭션 프로토콜을 제안한다.
• 자유 에너지 최소화에서 자연스럽게 유도되는 호기심과 불확실성 해결과 같은 내재된 동기를 통해 윤리 원칙을 통합한다.

실험 결과

연구 질문

• RQ1 특정 아키텍처나 영역에 종속되지 않는 원리적 기반에서 지능을 어떻게 형식적으로 정의하고 설계할 수 있는가?
• RQ2 특히 이질적인 에이전트 간에서 다중 척도의 지능이 어떻게 확장 가능하게 구현되는가?
• RQ3 중앙 집중식 제어 없이도 다중 에이전트 시스템에서 공통된 믿음과 목표가 어떻게 유도되는가? 이를 뒷받침하는 형식적 구조는 무엇인가?
• RQ4 분산된 지능 생태계에서 실시간으로 마찰 없이 상호작용하기 위해 필요한 통신 프로토콜과 모델링 언어는 무엇인가?
• RQ5 자기 에너지 원리의 자연스러운 결과로서 윤리적 행동과 도덕적 사고가 어떻게 지능 시스템에 통합될 수 있는가?

주요 결과

• 활성 추론은 믿음 갱신, 학습, 다양한 시간적·공간적 척도에서의 모델 선택을 자연스럽게 포함하는 통합적 원리적 기반을 제공한다.
• 공동 생성 모델을 통해 집단 지능이 실현되며, 에이전트 간의 정렬된 요소들이 공통 서사 또는 조율된 행동을 위한 공통 기준이 된다.
• 호기심과 불확실성 해결은 자유 에너지 최소화에서 유도되는 내재된 동기로 나타나며, 탐색과 적응 행동에 원리적인 기반을 제공한다.
• 복잡한 환경, 예를 들어 Doom 게임에서 강화 학습에 비해 성능이 뛰어나거나 동등하며, 부분 관측 가능하고 고차원적인 환경에서도 뛰어난 내구성을 보여준다.
• 병리적 사전 확률 하에서 환각, 忽시, 의사결정 편향 등의 복잡한 인지 현상을 시뮬레이션할 수 있어 신경인지적 타당성을 검증한다.
• 상호운용성 있고 실시간 상호작용을 가능하게 하는 사이버-물리적 지능 생태계의 핵심 인프라로서 초공간 모델링 언어와 트랜잭션 프로토콜이 필수적임을 제안한다.