[论文解读] Designing Ecosystems of Intelligence from First Principles

Karl Friston, Maxwell J. D. Ramstead+18 more|arXiv (Cornell University)|Dec 2, 2022

Computability, Logic, AI Algorithms被引用 14

一句话总结

本文提出了一种基于主动推理的多尺度人工智能生态系统的首因框架，其中智能通过在分层模型中更新信念以最小化自由能而涌现。该框架通过共享生成模型与叙事一致性，为集体智能建立了形式化基础，实现了可扩展、合乎伦理且具备适应性的合成智能与人类智能系统。

ABSTRACT

This white paper lays out a vision of research and development in the field of artificial intelligence for the next decade (and beyond). Its denouement is a cyber-physical ecosystem of natural and synthetic sense-making, in which humans are integral participants -- what we call ''shared intelligence''. This vision is premised on active inference, a formulation of adaptive behavior that can be read as a physics of intelligence, and which inherits from the physics of self-organization. In this context, we understand intelligence as the capacity to accumulate evidence for a generative model of one's sensed world -- also known as self-evidencing. Formally, this corresponds to maximizing (Bayesian) model evidence, via belief updating over several scales: i.e., inference, learning, and model selection. Operationally, this self-evidencing can be realized via (variational) message passing or belief propagation on a factor graph. Crucially, active inference foregrounds an existential imperative of intelligent systems; namely, curiosity or the resolution of uncertainty. This same imperative underwrites belief sharing in ensembles of agents, in which certain aspects (i.e., factors) of each agent's generative world model provide a common ground or frame of reference. Active inference plays a foundational role in this ecology of belief sharing -- leading to a formal account of collective intelligence that rests on shared narratives and goals. We also consider the kinds of communication protocols that must be developed to enable such an ecosystem of intelligences and motivate the development of a shared hyper-spatial modeling language and transaction protocol, as a first -- and key -- step towards such an ecology.

研究动机与目标

• 开发一个基于首因的统一、受物理学启发的人工智能框架，强调自证性与模型证据最大化。
• 通过将智能体建模为最小化感知、认知与行为层级上变分自由能的主动推理系统，实现多尺度、分布式智能。
• 通过共享生成模型与叙事一致性，为集体智能建立基础，实现异构智能体之间的一致性沟通与协作。
• 设计通信协议与超空间建模语言，以支持网络物理智能生态系统中实时、无摩擦的交互。
• 通过将好奇心、不确定性消解与共同目标嵌入智能系统的核心架构，解决AI的伦理与道德维度。

提出的方法

• 通过在因子图上进行变分推断，将智能形式化为通过贝叶斯模型证据（自由能）最大化，从而在不同尺度上实现推理、学习与模型选择。
• 通过共享因子对齐各智能体之间的生成模型，将主动推理应用于多智能体系统，为信念共享建立共同参照框架。
• 利用因子图上的信念传播与消息传递，实现分层、多尺度模型中高效且可扩展的推理。
• 引入“共享叙事”作为跨智能体对齐目标与信念的机制，实现集体决策与协同行动。
• 提出一种超空间建模语言与事务协议，以标准化分布式AI生态系统中的通信与交互。
• 通过内在驱动力（如好奇心与不确定性消解）嵌入伦理原则，这些驱动力自然源于自由能最小化。

实验结果

研究问题

• RQ1 如何在独立于特定架构或领域的情况下，从首因出发正式定义并工程化智能？
• RQ2 在人工系统中，特别是异构智能体之间，实现可扩展、多尺度智能的机制是什么？
• RQ3 在无集中控制的情况下，多智能体系统中如何实现共享信念与目标的涌现？何种形式结构可支持这一过程？
• RQ4 为实现在分布式智能生态系统中实时、无摩擦的交互，需要何种通信协议与建模语言？
• RQ5 如何将伦理行为与道德推理作为自由能原理在智能系统中的自然结果嵌入其中？

主要发现

• 主动推理为智能提供了一个统一的首因基础，自然地整合了信念更新、学习与多时间与空间尺度上的模型选择。
• 该框架通过共享生成模型实现集体智能，其中跨智能体对齐的因子构成协调行为的共同叙事或参照框架。
• 好奇心与不确定性消解作为内在驱动力，自然源于自由能最小化，为探索与适应性行为提供了原则性基础。
• 该方法在复杂环境（如Doom游戏）中的表现优于或等同于强化学习，展现出在部分可观察、高维设置下的鲁棒性。
• 该框架支持在病态先验下模拟复杂认知现象（如幻觉、忽视与决策偏差），验证了其神经认知合理性。
• 提出超空间建模语言与事务协议作为实现互操作性、实时交互的网络物理智能生态系统的关键基础设施。