[论文解读] Mutual information in changing environments: non-linear interactions, out-of-equilibrium systems, and continuously-varying diffusivities

Giorgio Nicoletti, Daniel Maria Busiello|arXiv (Cornell University)|Apr 4, 2022

Gene Regulatory Network Analysis参考文献 51被引用 13

一句话总结

本文将互信息分析推广至具有时变环境的非线性系统，揭示了由非线性相互作用与环境变化共同导致的新干扰项，该干扰项可增强或抑制信息。研究发现非平衡条件会增加互信息，并将连续的环境变化映射为有效的空间变扩散系数，揭示了生物物理系统中的间接空间耦合。

ABSTRACT

Biochemistry, ecology, and neuroscience are examples of prominent fields aiming at describing interacting systems that exhibit non-trivial couplings to complex, ever-changing environments. We have recently shown that linear interactions and a switching environment are encoded separately in the mutual information of the overall system. Here, we first generalize these findings to a broad class of non-linear interacting models. We find that a new term in the mutual information appears, quantifying the interplay between non-linear interactions and environmental changes, and leading to either constructive or destructive information interference. Furthermore, we show that a higher mutual information emerges in out-of-equilibrium environments with respect to an equilibrium scenario. Finally, we generalize our framework to the case of continuously varying environments. We find that environmental changes can be mapped exactly into an effective spatially-varying diffusion coefficient, shedding light on modeling and information structure of biophysical systems in inhomogeneous media.

研究动机与目标

• 将先前关于切换环境中线性系统的互信息研究扩展至具有切换环境的非线性相互作用系统。
• 研究非线性相互作用与环境变化如何共同影响复杂系统中的信息含量。
• 探讨非平衡条件（如乘性噪声）对互信息的影响。
• 将框架推广至连续变化的环境，超越离散状态模型。
• 揭示环境变化如何通过异质扩散系数诱导有效空间耦合，挑战对直接相互作用的直观推断。

提出的方法

• 采用时间尺度分离方法，分析环境切换速度相对于内部动力学快或慢的系统。
• 应用具有离散环境状态（D−, D+）和跃迁速率（w±）的福克-普朗克方程，将系统建模为各状态稳态分布的混合。
• 在慢跳变极限下，导出稳态解为各状态特异性稳态分布的加权和，即 pslow(x) = Σi πi P^st_i(x)。
• 在快跳变极限下，环境平均为恒定的有效扩散系数，即 D_eff = Σi πi Di。
• 引入以 δ = τ/τenv 为参数的正式展开，以分离快慢动力学，并推导出主导阶稳态解。
• 将连续环境过程映射为有效空间变扩散系数，表明环境效应可表现为间接空间耦合。

实验结果

研究问题

• RQ1 在环境变化的背景下，非线性相互作用如何改变系统组分之间的互信息？
• RQ2 当存在非线性耦合时，环境变化与内部相互作用在互信息中能否被分离？
• RQ3 非平衡条件（如乘性噪声）在增强或抑制互信息方面起什么作用？
• RQ4 连续变化的环境如何影响系统的信息结构？
• RQ5 在数据驱动推断中，环境效应在多大程度上可能被误认为是直接相互作用？

主要发现

• 由于非线性相互作用与环境变化的相互作用，互信息中出现新的干扰项，该干扰项可建设性或破坏性地改变总信息量。
• 在无内部相互作用时，互信息随非平衡驱动项（如温度梯度）的幅值增大而增加，表明非平衡条件增强了环境信息传递。
• 在快跳变极限下，互信息仅依赖于内部相互作用，因为环境平均为恒定的有效扩散系数。
• 在慢跳变极限下，环境和内部对互信息的贡献均存在，其相互作用导致新识别出的干扰项。
• 连续环境变化可精确映射为有效空间变扩散系数，意味着环境效应可诱导间接空间耦合而非直接相互作用。
• 该映射警示：基于数据的直接相互作用推断可能产生偏差，因为环境异质性可能被误认为系统中的结构耦合。