[论文解读] Information decomposition reveals hidden high-order contributions to temporal irreversibility

Andrea I. Luppi, Fernando E. Rosas+3 more|arXiv (Cornell University)|Aug 10, 2023

Neural dynamics and brain function被引用 4

一句话总结

本文提出了一种新颖的信息论框架，将多变量时间序列中的时间不可逆性分解为不同且高阶的动力学模式，揭示了时间之箭中此前隐藏的贡献。该方法在临界点之外的生物物理脑模型中发现了主导的高阶不可逆性，挑战了标量度量方法，并将不可逆性与复杂的信息处理动力学联系起来。

ABSTRACT

Temporal irreversibility, often referred to as the arrow of time, is a fundamental concept in statistical mechanics. Markers of irreversibility also provide a powerful characterisation of information processing in biological systems. However, current approaches tend to describe temporal irreversibility in terms of a single scalar quantity, without disentangling the underlying dynamics that contribute to irreversibility. Here we propose a broadly applicable information-theoretic framework to characterise the arrow of time in multivariate time series, which yields qualitatively different types of irreversible information dynamics. This multidimensional characterisation reveals previously unreported high-order modes of irreversibility, and establishes a formal connection between recent heuristic markers of temporal irreversibility and metrics of information processing. We demonstrate the prevalence of high-order irreversibility in the hyperactive regime of a biophysical model of brain dynamics, showing that our framework is both theoretically principled and empirically useful. This work challenges the view of the arrow of time as a monolithic entity, enhancing both our theoretical understanding of irreversibility and our ability to detect it in practical applications.

研究动机与目标

• 为解决标量度量在捕捉多变量时间序列中时间不可逆性的多维特性方面的局限性。
• 通过严谨的信息论框架，正式连接不可逆性的启发式指标与信息处理度量。
• 识别并量化复杂动力系统中此前未报告的高阶不可逆性模式。
• 在生物物理脑动力学的现实模型中展示该框架的实证适用性。

提出的方法

• 应用整合信息分解（ΦID）将时间点之间的互信息分解为不同的信息原子：红（冗余）、UnX（仅属于X）、UnY（仅属于Y）和Syn（协同）。
• 使用最小互信息（MMI）冗余函数定义信息原子，并计算时间序列中不可逆贡献。
• 采用动态平均场（DMF）模型模拟具有源自人类dMRI数据的真实结构连接性的多变量脑活动。
• 应用INSIDEOUT指标量化不可逆性，并在不同全局耦合强度（G）下与分解结果进行比较。
• 通过对所有区域对取平均，聚合结果以评估网络整体的不可逆性动态。
• 使用气球-Windkessel血流动力学模型将神经活动转换为模拟的BOLD信号，以实现真实的时序数据分析。

Figure 1: Irreversible modes of information dynamics . a) Examples of different irreversible modes of information dynamics and their time-reversed counterparts: irreversibility due to asymmetry between copy and erasure of information (top); irreversibility due to asymmetry of information transfer be

实验结果

研究问题

• RQ1 除了简单的成对传递或擦除-复制不对称性之外，哪些类型的信息动力学对时间不可逆性有贡献？
• RQ2 高阶信息动力学（如整体与部分之间非对称的信息传递）是否可能显著贡献于观测到的不可逆性？
• RQ3 在生物物理脑模型的不同动力学状态下，高阶不可逆性模式的贡献如何变化？
• RQ4 启发式不可逆性指标（如INSIDEOUT）在多大程度上反映了潜在的信息论机制？

主要发现

• 所提出的框架揭示了定性上不同的不可逆信息动力学，包括文献中此前未报告的高阶模式。
• 在DMF模型的高活动状态下，高阶不可逆性（特别是系统整体与部分之间非对称传递）主导了不可逆性。
• INSIDEOUT指标通过ΦID框架与信息动力学正式关联，为其使用提供了理论基础。
• 在MMI冗余函数下，复制-擦除模式的不可逆性消失，表明该模式并非普遍存在，而是依赖于冗余函数的选择。
• 在DMF模型临界点之外，高阶不可逆性贡献超过低阶模式，表明其在复杂系统中的功能重要性。
• 该框架成功分离了不同信息动力学的贡献，提供了不可逆性的多维表征。

Figure 2: Distinct modes of temporal irreversibility in simulated brain dynamics. a) A biophysical model of excitatory (E) and inhibitory (I) neural masses coupled according to the structural connectivity of the human brain is used to simulate the neural dynamics of different brain regions. The mode