[论文解读] Detecting emergent processes in cellular automata with excess information

David Balduzzi|arXiv (Cornell University)|May 1, 2011

Cellular Automata and Applications参考文献 19被引用 5

一句话总结

本文提出了一种适用于细胞自动机的可扩展粗粒化框架，通过最大化过剩信息（ξ）来识别涌现过程，ξ 是一种衡量系统在子系统之外生成协同信息的指标。结果表明，在康威生命游戏（Conway’s Game of Life）中，滑翔机（gliders）及其他复杂模式在更粗粒度的尺度下表达得最为清晰，此时有效信息与过剩信息均达到最大，从而将涌现形式化为在更粗粒度下获得更好表达的现象。

ABSTRACT

Many natural processes occur over characteristic spatial and temporal scales. This paper presents tools for (i) flexibly and scalably coarse-graining cellular automata and (ii) identifying which coarse-grainings express an automaton's dynamics well, and which express its dynamics badly. We apply the tools to investigate a range of examples in Conway's Game of Life and Hopfield networks and demonstrate that they capture some basic intuitions about emergent processes. Finally, we formalize the notion that a process is emergent if it is better expressed at a coarser granularity.

研究动机与目标

• 开发一种灵活且可扩展的方法，用于在时空尺度上对细胞自动机进行粗粒化。
• 通过量化系统相对于其子系统的资讯生成量，识别出最能表达系统动力学的粗粒化方式。
• 形式化定义：若某一过程在更粗粒度下表达得更佳，则其为涌现过程。
• 提供一种与模型无关、以过程为中心的涌现度量方法，基于信息动力学而非预测建模。

提出的方法

• 粗粒化将时空事件（时间 t 时的细胞）分组为单元，通过通道与基底条件定义系统动力学。
• 有效信息（ei）量化系统输出对输入的依赖程度，衡量信息生成量。
• 过剩信息（ξ）衡量系统信息与子系统信息之间的差异，捕捉协同效应。
• 该方法使用最小信息分割（MIP）计算归一化的过剩信息，倾向于选择更简单、更具协同性的宏观字母表。
• 通过最大化归一化过剩信息选择最具表现力的粗粒化方式，归一化过程偏向于更简单、对称且更具协同性的描述。
• 该方法应用于康威生命游戏（Conway’s Game of Life）与霍普菲尔德网络（Hopfield networks）以评估涌现动力学。

实验结果

研究问题

• RQ1 哪种细胞自动机的粗粒化方式最能表达其底层动力学？
• RQ2 我们如何量化一种粗粒化是否在信息生成方面超越了其各部分之和？
• RQ3 过剩信息能否区分复杂系统中冗余（无趣）与协同（有趣）的信息处理？
• RQ4 若某一过程在更粗粒度下表达得更佳而非在最细粒度下，则其是否可被视为涌现过程？
• RQ5 我们如何系统性地识别细胞自动机中最具表现力的描述层次，而无需依赖外部模型？

主要发现

• 过剩信息（ξ）成功区分了康威生命游戏中具有协同性与动态性的结构（如滑翔机）与空白或冗余的区域，后者的ξ值较低。
• 有效信息（ei）与过剩信息（ξ）均较高的粗粒化方式与滑翔机传播等直观的涌现行为一致。
• 该方法将滑翔机轨迹识别为粗粒化空间中的关键区域，因为这些区域相对于邻近粗粒化方式表现出最高的ξ值。
• 过剩信息的归一化过程使选择偏向于更简单、但仍能生成高协同信息的宏观字母表，从而更倾向于更具表现力与紧凑性的描述。
• 该方法在粗粒化层级上生成了一个新的细胞自动机，保留了动力学结构，实现了可扩展分析。
• 该框架具备可扩展性与模型无关性，可应用于包括霍普菲尔德网络与康威生命游戏在内的多种系统，且无需预设宏观变量（如温度或质心）