[論文レビュー] Designing Ecosystems of Intelligence from First Principles

Karl Friston, Maxwell J. D. Ramstead+18 more|arXiv (Cornell University)|Dec 2, 2022

Computability, Logic, AI Algorithms被引用数 14

ひとこと要約

本稿は、アクティブインファレンスに基づく、自由エネルギーを最小化することで信念の更新が行われる階層的モデルを介して知能が生じる、一見の枠組みを提案する。知能は、共有の生成モデルと物語的整合性を通じて、集団知能の形式的基盤を確立し、スケーラブルで、倫理的かつ適応的な合成的知能および人間知能システムを可能にする。

ABSTRACT

This white paper lays out a vision of research and development in the field of artificial intelligence for the next decade (and beyond). Its denouement is a cyber-physical ecosystem of natural and synthetic sense-making, in which humans are integral participants -- what we call ''shared intelligence''. This vision is premised on active inference, a formulation of adaptive behavior that can be read as a physics of intelligence, and which inherits from the physics of self-organization. In this context, we understand intelligence as the capacity to accumulate evidence for a generative model of one's sensed world -- also known as self-evidencing. Formally, this corresponds to maximizing (Bayesian) model evidence, via belief updating over several scales: i.e., inference, learning, and model selection. Operationally, this self-evidencing can be realized via (variational) message passing or belief propagation on a factor graph. Crucially, active inference foregrounds an existential imperative of intelligent systems; namely, curiosity or the resolution of uncertainty. This same imperative underwrites belief sharing in ensembles of agents, in which certain aspects (i.e., factors) of each agent's generative world model provide a common ground or frame of reference. Active inference plays a foundational role in this ecology of belief sharing -- leading to a formal account of collective intelligence that rests on shared narratives and goals. We also consider the kinds of communication protocols that must be developed to enable such an ecosystem of intelligences and motivate the development of a shared hyper-spatial modeling language and transaction protocol, as a first -- and key -- step towards such an ecology.

研究の動機と目的

• 第一原理に基づき、自己証明的性質とモデルの証拠最大化に重点を置いた、物理学的インスピレーションを受ける統一的で人工知能の枠組みを構築すること。
• 知覚的、認知的、行動的レベルにおける変分自由エネルギーの最小化を実現するアクティブインファレンスシステムとしてのエージェントをモデル化することで、スケールに跨る分散知能を可能にすること。
• 共有の生成モデルと物語的整合性を通じて、集団知能の基盤を確立し、多様なエージェント間での一貫性のある通信と協働を可能にすること。
• サイバー物理的知能エコシステムにおけるリアルタイムでスムーズな相互作用を支援する通信プロトコルおよびハイパースペーシャルモデリング言語を設計すること。
• 好奇心、不確実性の解消、共有の目標といった要因を、知能システムのコアアーキテクチャに組み込むことで、AIの倫理的・道徳的側面を扱うこと。

提案手法

• 因子グラフ上の変分インファレンスを用いてベイズ的モデル証拠（自由エネルギー）の最大化として知能を形式化し、スケールに跨る推論、学習、モデル選択を可能にする。
• エージェント間の生成モデルを共有要因によって整合させることで、アクティブインファレンスをマルチエージェントシステムに適用し、信念共有のための共通フレームを構築する。
• 因子グラフ上の信念伝搬とメッセージパッシングを用いて、階層的かつスケールに跨るモデルにおける効率的でスケーラブルな推論を実装する。
• エージェント間での目的と信念の整合性を図るためのメカニズムとして「共有のナラティブ」の概念を導入し、集団的意思決定と協調的行動を可能にする。
• 分散型AIエコシステムにおける標準化された通信と相互作用を支援するため、ハイパースペーシャルモデリング言語とトランザクションプロトコルを提案する。
• 自由エネルギー最小化から自然に生じる好奇心や不確実性の解消といった内因的動機を組み込むことで、倫理的原則を統合する。

実験結果

リサーチクエスチョン

• RQ1 知能は、特定のアーキテクチャや分野に依存しない第一原理から形式的に定義され、設計可能であるか。
• RQ2 特に多様なエージェント間で、スケーラブルでスケールに跨る知能を実現するためのメカニズムは何か。
• RQ3 中央集権的制御なしに、マルチエージェントシステムで共有の信念と目的がどのように生成され、その背後にある形式的構造は何か。
• RQ4 分散型知能エコシステムにおけるリアルタイムでスムーズな相互作用を実現するために、どのような通信プロトコルとモデリング言語が必要か。
• RQ5 自由エネルギー原理の自然な結果として、倫理的行動と道徳的推論がどのように知能システムに組み込まれるか。

主な発見

• アクティブインファレンスは、複数の時間的・空間的スケールに跨る信念の更新、学習、モデル選択を自然に組み込む統一的で第一原理的な知能の基盤を提供する。
• 共有の生成モデルを通じて集団知能が実現され、エージェント間で整合性を持つ要因が共通のナラティブや行動のための共通フレームを形成する。
• 好奇心と不確実性の解消は、自由エネルギー最小化から自然に生じる内因的動機として現れ、探査と適応的行動の原理的基盤を提供する。
• ドームゲームのような複雑な環境において、強化学習と同等またはそれを上回る性能を示し、部分観測可能で高次元な設定でも頑健であることを実証した。
• 病理的な事前分布の下で、幻覚、無視、意思決定バイアスといった複雑な認知現象のシミュレーションが可能であり、神経認知的妥当性を裏付けた。
• 相互運用可能でリアルタイムの相互作用を可能にするサイバー物理的知能エコシステムのインfraとして、ハイパースペーシャルモデリング言語とトランザクションプロトコルが不可欠であると提唱された。