[论文解读] Dynamical independence: discovering emergent macroscopic processes in complex dynamical systems

L. D. Barnett, Anil K. Seth|arXiv (Cornell University)|Jun 11, 2021

Neural dynamics and brain function被引用 4

一句话总结

本文提出动态独立性作为正式框架，用于识别从复杂动力系统中涌现的宏观过程，将其视为具有自身动力学的自主实体。该框架基于香农熵提出一种变换不变的信息论度量方法，用于衡量动态依赖性，从而实现基于数据的发现方法，可在时空尺度上识别涌现现象，适用于时间域与频域的状态空间模型。

ABSTRACT

We introduce a notion of emergence for coarse-grained macroscopic variables associated with highly-multivariate microscopic dynamical processes, in the context of a coupled dynamical environment. Dynamical independence instantiates the intuition of an emergent macroscopic process as one possessing the characteristics of a dynamical system "in its own right", with its own dynamical laws distinct from those of the underlying microscopic dynamics. We quantify (departure from) dynamical independence by a transformation-invariant Shannon information-based measure of dynamical dependence. We emphasise the data-driven discovery of dynamically-independent macroscopic variables, and introduce the idea of a multiscale "emergence portrait" for complex systems. We show how dynamical dependence may be computed explicitly for linear systems via state-space modelling, in both time and frequency domains, facilitating discovery of emergent phenomena at all spatiotemporal scales. We discuss application of the state-space operationalisation to inference of the emergence portrait for neural systems from neurophysiological time-series data. We also examine dynamical independence for discrete- and continuous-time deterministic dynamics, with potential application to Hamiltonian mechanics and classical complex systems such as flocking and cellular automata.

研究动机与目标

• 将涌现的直观概念形式化为一种具有独立动力学的宏观过程，其动力学与微观相互作用相分离。
• 开发一种基于原则的、数据驱动的方法，用于识别高维系统中动态独立的宏观变量。
• 提出多尺度“涌现图景”的概念，用于映射不同时空尺度下的涌现动力学。
• 通过状态空间建模，实现从神经生理时间序列数据中推断涌现结构。
• 将该框架扩展至离散时间与连续时间的确定性系统，包括哈密顿系统与元胞自动机。

提出的方法

• 将动态独立性定义为宏观变量演化独立于微观动力学的条件，通过基于香农信息的变换不变动态依赖度量进行形式化。
• 利用状态空间模型在时间域与频域中计算线性系统的动态依赖性，实现该度量的操作化。
• 使用特征线法求解不变量与流平行坐标（τ, u），以实现动力学的平坦化，从而实现动态独立粗粒化的显式计算。
• 推导出动态独立粗粒化映射的一般形式：f(x) = Ψ(τ(x), u(x))，其中τ为类时间变量，u为函数独立的不变量。
• 通过状态空间表示将该框架应用于线性随机系统，实现从经验时间序列数据中估计动态依赖性。
• 将该方法扩展至确定性系统，包括连续时间常微分方程与离散时间映射，并以动力系统理论中的示例进行说明。

实验结果

研究问题

• RQ1 我们如何正式定义并量化表现出自主动力学行为的宏观过程的涌现？
• RQ2 是否存在一种基于原则的、数据驱动的方法，用于在多个时空尺度上发现此类涌现过程？
• RQ3 如何度量宏观变量与底层微观动力学之间的动态独立程度？
• RQ4 该框架能否应用于真实神经生理数据，以推断涌现的宏观动力学？
• RQ5 动态独立性的概念如何推广至哈密顿力学与元胞自动机等确定性系统？

主要发现

• 本文建立了一种基于香农熵的变换不变、信息论的动态依赖度量，实现了对涌现现象的稳健量化。
• 对于线性系统，可通过时间域与频域中的状态空间模型显式计算动态依赖性，从而实现对涌现过程的可扩展发现。
• 推导出动态独立粗粒化映射的一般形式为 f(x) = Ψ(τ(x), u(x))，其中τ为类时间变量，u为不变量，从而实现对涌现动力学的系统性识别。
• 该框架成功识别出三维非线性常微分方程系统中的宏观涌现行为，且显式求解出不变量与流平行坐标。
• 该方法可构建“多尺度涌现图景”，揭示不同尺度下的涌现结构，即使在视觉上不明显亦可识别。
• 该方法适用于现实世界数据，如神经时间序列，可在无需完整模拟的前提下，从未完全观测的微观数据中推断宏观动力学。