[论文解读] Statistical Measures of Complexity: Why?

David P. Feldman, James P. Crutchfield|ArXiv.org|Aug 22, 1997

Complex Systems and Decision MakingDecision Sciences参考文献 4被引用 16

一句话总结

本文批判性地评估了LMC统计复杂度度量 $C_{\rm LMC}$，表明其不满足广延性，且在修正为广延性时变得平凡。文章认为，一个有用的复杂度度量不仅应在有序和无序极限下趋于零，还必须对所量化结构特征具有清晰的物理解释。

ABSTRACT

We review several statistical complexity measures proposed over the last decade and a half as general indicators of structure or correlation. Recently, Lopez-Ruiz, Mancini, and Calbet [Phys. Lett. A 209 (1995) 321] introduced another measure of statistical complexity C_{LMC} that, like others, satisfies the ``boundary conditions'' of vanishing in the extreme ordered and disordered limits. We examine some properties of C_{LMC} and find that it is neither an intensive nor an extensive thermodynamic variable and that it vanishes exponentially in the thermodynamic limit for all one-dimensional finite-range spin systems. We propose a simple alteration of C_{LMC} that renders it extensive. However, this remedy results in a quantity that is a trivial function of the entropy density and hence of no use as a measure of structure or memory. We conclude by suggesting that a useful ``statistical complexity'' must not only obey the ordered-random boundary conditions of vanishing, it must also be defined in a setting that gives a clear interpretation to what structures are quantified.

研究动机与目标

• 评估LMC统计复杂度度量 $C_{\rm LMC}$ 作为结构复杂度通用指标的有效性与实用性。
• 研究 $C_{\rm LMC}$ 是否满足热力学尺度性质，特别是热力学极限下的广延性。
• 确定对 $C_{\rm LMC}$ 的修改是否能在恢复广延性的同时，仍保持对结构相关性的敏感性。
• 论证仅靠边界条件（在有序和无序极限下趋于零）不足以定义一个有用的统计复杂度度量。
• 强调复杂度度量所量化结构特征的清晰物理或信息学解释的必要性。

提出的方法

• 分析定义为 $C_{\rm LMC}[Y] = H[Y] \cdot D[Y]$ 的LMC复杂度度量，其中 $H[Y]$ 为香农熵，$D[Y]$ 为非均衡度。
• 研究在热力学极限下，一维有限范围自旋系统中 $C_{\rm LMC}$ 的行为。
• 提出对 $C_{\rm LMC}$ 的修改版本，通过重新缩放非均衡度项以实现广延性。
• 证明修改后的度量变为熵密度的平凡函数，失去对结构模式的区分能力。
• 使用分析和热力学论证表明，对于此类系统，$C_{\rm LMC}$ 在热力学极限下呈指数衰减。
• 将 $C_{\rm LMC}$ 与其它复杂度度量（如过剩熵和逻辑深度）进行比较，以突出其解释清晰度。

实验结果

研究问题

• RQ1 LMC复杂度度量 $C_{\rm LMC}$ 在一维自旋系统中是否在热力学极限下表现出广延性？
• RQ2 能否在不损失对结构相关性敏感性的前提下，使 $C_{\rm LMC}$ 的修改版本具有广延性？
• RQ3 为何在有序和无序极限下复杂度趋于零不足以定义一个有用的统计复杂度度量？
• RQ4 统计复杂度度量要具有物理意义和可解释性，需要满足哪些标准？
• RQ5 不同复杂度度量（如过剩熵、逻辑深度）在可解释性和实用性方面如何比较？

主要发现

• 对于所有一维有限范围自旋系统，LMC复杂度度量 $C_{\rm LMC}$ 在热力学极限下呈指数衰减。
• LMC度量既非强度量也非广延量，违反了作为热力学有意义复杂度度量的关键要求。
• 为使 $C_{\rm LMC}$ 具有广延性而提出的修改，导致其仅成为熵密度的平凡函数。
• 修改后的度量完全丧失对结构相关性的敏感性，因此无法作为模式或记忆的有用指标。
• 在有序和无序极限下趋于零的边界条件是必要条件，但不足以构成一个有用的复杂度度量。
• 一个有意义的统计复杂度度量必须对其所量化结构特征具有清晰的物理或信息学解释。