[論文レビュー] Mutual information in changing environments: non-linear interactions, out-of-equilibrium systems, and continuously-varying diffusivities

Giorgio Nicoletti, Daniel Maria Busiello|arXiv (Cornell University)|Apr 4, 2022

Gene Regulatory Network Analysis参考文献 51被引用数 13

ひとこと要約

本稿は、時間変動環境を伴う非線形系への相互情報量解析を一般化し、非線形相互作用と環境変化の間に生じる新たな干渉項を明らかにした。この干渉項は情報量を増幅または抑制する可能性がある。非平衡状態が相互情報量を増加させることを示し、連続的な環境変化を有効な空間的に変化する拡散係数に写像することで、生体物理系における間接的な空間的結合を明らかにした。

ABSTRACT

Biochemistry, ecology, and neuroscience are examples of prominent fields aiming at describing interacting systems that exhibit non-trivial couplings to complex, ever-changing environments. We have recently shown that linear interactions and a switching environment are encoded separately in the mutual information of the overall system. Here, we first generalize these findings to a broad class of non-linear interacting models. We find that a new term in the mutual information appears, quantifying the interplay between non-linear interactions and environmental changes, and leading to either constructive or destructive information interference. Furthermore, we show that a higher mutual information emerges in out-of-equilibrium environments with respect to an equilibrium scenario. Finally, we generalize our framework to the case of continuously varying environments. We find that environmental changes can be mapped exactly into an effective spatially-varying diffusion coefficient, shedding light on modeling and information structure of biophysical systems in inhomogeneous media.

研究の動機と目的

• 切り替え環境を伴う線形系における相互情報量の先行研究を、非線形相互作用を持つ系へと拡張すること。
• 非線形相互作用と環境変化が、複雑系における情報量に与える共同的影響を調査すること。
• 乗法的ノイズなどの非平衡状態（例：非平衡状態）が相互情報量に与える影響を明らかにすること。
• 離散状態モデルを超えて、連続的に変化する環境へと枠組みを一般化すること。
• 環境変化が不均一な拡散係数を通じて有効な空間的結合を誘発する仕組みを明らかにし、直接的相互作用の誤った推論に挑戦すること。

提案手法

• 内部ダイナミクスに対して速いまたは遅い環境スイッチングを示す時間スケール分離法を用いて解析する。
• 離散的環境状態（D−, D+）と遷移率（w±）を伴うFokker-Planck方程式を適用し、系を定常分布の混合としてモデル化する。
• 遅いジャンプ極限において、定常解を状態固有の定常分布の重み付き和として導出する。p_slow(x) = Σi πi P^st_i(x)。
• 速いジャンプ極限では、環境が定常的な有効拡散係数 D_eff = Σi πi Di に平均化される。
• δ = τ/τ_env を用いた形式的展開により、速い・遅いダイナミクスを分離し、一次近似の定常解を導出する。
• 連続的な環境プロセスを有効な空間的に変化する拡散係数に写像し、環境効果が間接的な空間的結合として現れることを示す。

実験結果

リサーチクエスチョン

• RQ1 非線形相互作用は、変化する環境下で系の各成分間の相互情報量にどのように影響するか？
• RQ2 非線形結合が存在する場合、環境変化と内部相互作用は相互情報量において分離可能か？
• RQ3 非平衡状態（例：乗法的ノイズ）は、相互情報量を増幅または抑制する役割を果たすか？
• RQ4 連続的に変化する環境は、系の情報構造にどのように影響するか？
• RQ5 データ駆動型推論において、環境効果が直接的相互作用と誤って解釈される可能性はどの程度か？

主な発見

• 非線形相互作用と環境変化の相互作用によって、新たな干渉項が相互情報量に現れ、合計情報量を建設的または破壊的に変化させる。
• 内部相互作用が存在しない場合、非平衡駆動項（例：温度勾配）の大きさが増すほど相互情報量が増加し、非平衡状態が環境情報伝達を強化することを示す。
• 速いジャンプ極限では、環境が定常的な有効拡散係数に平均化されるため、相互情報量は内部相互作用にのみ依存する。
• 遅いジャンプ極限では、環境的および内部的寄与の両方が相互情報量に現れ、それらの相互作用が新たに同定された干渉項を生じる。
• 連続的な環境変化は、正確に有効な空間的に変化する拡散係数に写像可能であり、環境効果が直接的相互作用ではなく間接的な空間的結合を誘発することを示唆する。
• この写像は、データから直接的相互作用を誤って推論するのを警告する。環境の不均一性が、システム内の構造的結合と誤解される可能性があるからである。