[論文レビュー] Software in the natural world: A computational approach to hierarchical emergence

Fernando E. Rosas, Bernhard C. Geiger+5 more|arXiv (Cornell University)|Feb 14, 2024

Computability, Logic, AI Algorithms被引用数 5

ひとこと要約

本論文は、情報理論の概念とオートマタ理論を組み合わせて、多層系における因果的および計算的閉包を特徴づけることで、 Emergence をソフトウェアのように自己完結するマクロな過程へ結びつける計算フレームワークを開発する。

ABSTRACT

Understanding the functional architecture of complex systems is crucial to illuminate their inner workings and enable effective methods for their prediction and control. Recent advances have introduced tools to characterise emergent macroscopic levels; however, while these approaches are successful in identifying when emergence takes place, they are limited in the extent they can determine how it does. Here we address this limitation by developing a computational approach to emergence, which characterises macroscopic processes in terms of their computational capabilities. Concretely, we articulate a view on emergence based on how software works, which is rooted on a mathematical formalism that articulates how macroscopic processes can express self-contained informational, interventional, and computational properties. This framework establishes a hierarchy of nested self-contained processes that determines what computations take place at what level, which in turn delineates the functional architecture of a complex system. This approach is illustrated on paradigmatic models from the statistical physics and computational neuroscience literature, which are shown to exhibit macroscopic processes that are akin to software in human-engineered systems. Overall, this framework enables a deeper understanding of the multi-level structure of complex systems, revealing specific ways in which they can be efficiently simulated, predicted, and controlled.

研究の動機と目的

• 複雑な多層系において、出現するマクロなレベルを厳密に特徴づける必要性を動機づける。
• 情報的・因果的・計算的閉包を通じてマクロ的自己完結を定義するフレームワークを提案する。
• オートマタ理論と計算機械力学の原理を統合して、マクロ過程がどのように計算を行い介入するのかを研究する。
• これらの考え方が、スケールを超えてネストされた計算構造の格子を生み出すことを示す。

提案手法

• マクロ過程 Z_t = f(X_t) を定義し、Z_t に影響を与える X_t の最小の識別差を upsilon-機械と epsilon-機械を用いて同定する。
• Z の epsilon-機械が Z の upsilon-機械と一致するとき causal closure を確立し、マクロ的介入が将来の予測に十分であることを意味する。
• 自己予測充足を定量化するために、情報的閉包を mutual information I(Z_t^L; Z_t+1) = I(X_t^L; Z_t+1) で形式化する。
• 因果性と計算を結ぶ二機械フレームワーク（epsilon-機械と upsilon-機械）を導入し、それらを予測エンジンと基底因果としての役割として説明する。
• 実データ上の効率的な推定を可能にするために、lumpable time series 理論とフレームワークを結び付ける。

実験結果

リサーチクエスチョン

• RQ1 複雑なシステムにおいて、出現するマクロレベルを自己完結的な計算実体としてどのように特徴づけられるか？
• RQ2 ソフトウェアのような（因果的に閉包された）マクロ過程を生み出す正確な情報的・因果的・計算的条件は何か？
• RQ3 マクロレベルの原因と計算を定義する際に epsilon-機械と upsilon-機械は互いにどのように関連するか？
• RQ4 粗視化レベルを跨ぐネストされた計算構造の格子は、マルチスケール動力学を予測・制御するのに用いることができるか？

主な発見

• マクロレベルは、情報的・因果的・計算的閉包を通じて自己完結的な計算実体として特徴づけられる。
• 粗視化により秩序づけられた、ネストされた計算構造の格子が現れ、各レベルでどのような計算が行われるかを概説する。
• upsilon-機械は、マイクロ情報を用いたマクロレベルの未来をより強力に予測するモデルを提供し、epsilon-機械はマクロレベルの因果的区別を符号化する。
• マクロな epsilon-機械と upsilon-機械の等価性は因果的閉包を定義し、マクロレベルでの介入が将来の結果に十分であることを示す。
• lumpable time series 理論への結びつきは、実データでこれらの特性を実用的かつ効率的に推定することを可能にする。
• 例示には拡散過程、スピンモデル、ネットワーク上のランダムウォーク、エージェントベースモデル、神経記憶過程などが含まれる。