[论文解读] Complexity of Networks

Russell K. Standish|ArXiv.org|Aug 17, 2005

Computability, Logic, AI Algorithms参考文献 6被引用 12

一句话总结

本文提出了一种计算上可行的算法，基于算法信息论估算网络复杂度，采用无前缀的二进制表示方式对无向图进行编码，并通过自同构群计数等价描述。关键贡献在于提出了一项实用的度量 ${\cal C}$，其近似真实算法复杂度，仅在高度规则的图上出现显著高估，该方法在8个节点的网络上通过穷举计算得到验证。

ABSTRACT

Network or graph structures are ubiquitous in the study of complex systems. Often, we are interested in complexity trends of these system as it evolves under some dynamic. An example might be looking at the complexity of a food web as species enter an ecosystem via migration or speciation, and leave via extinction. In this paper, a complexity measure of networks is proposed based on the {\em complexity is information content} paradigm. To apply this paradigm to any object, one must fix two things: a representation language, in which strings of symbols from some alphabet describe, or stand for the objects being considered; and a means of determining when two such descriptions refer to the same object. With these two things set, the information content of an object can be computed in principle from the number of equivalent descriptions describing a particular object. I propose a simple representation language for undirected graphs that can be encoded as a bitstring, and equivalence is a topological equivalence. I also present an algorithm for computing the complexity of an arbitrary undirected network.

研究动机与目标

• 开发一种计算上可行的网络复杂度度量方法，使其与算法信息论原则保持一致。
• 通过引入一种实用的近似方法，解决大规模网络精确算法复杂度计算不可行的问题。
• 评估所提出的复杂度度量 ${\cal C}$ 与更精确但不可行的度量 ${\cal C}_z$（基于完整描述枚举）之间的差异。
• 研究 ${\cal C}$ 在何种情况下可被可靠使用，以及在何种情况下需要更精确的计算。
• 探索网络结构（如规则性、无标度特性）与复杂度估计误差之间的关系。

提出的方法

• 为无向图定义了一种无前缀的二进制表示语言，将节点数和邻接矩阵编码为比特串。
• 使用涉及等价描述数量 $\omega(\ell,x)$ 的极限公式计算复杂度度量 ${\cal C}(x)$，该数量由自同构群大小推导得出。
• 实现了一种算法，通过遍历所有节点标签的排列来计数唯一的比特串表示形式，并使用集合存储以避免重复。
• 对于更大规模的网络，该方法从给定链接数的图空间中采样，使用阈值区分稀疏图与稠密图。
• 压缩误差量化为 $({\cal C} - {\cal C}_z)/{\cal C}$，即 ${\cal C}$ 与更精确的 ${\cal C}_z$ 之间的差异。
• 使用非对角线复杂度作为压缩误差的预测变量，并通过线性回归分析评估其相关性。

实验结果

研究问题

• RQ1 如何在不进行穷举枚举的情况下，对无向网络实际估算算法复杂度？
• RQ2 使用基于自同构群的计数方法近似算法复杂度，而非完整描述枚举，会引入多大的误差？
• RQ3 非对角线复杂度在多大程度上能预测近似复杂度与精确复杂度度量之间的差异？
• RQ4 在何种情况下，更简单的复杂度度量 ${\cal C}$ 足够可靠，而在何种情况下需要更精确的 ${\cal C}_z$？
• RQ5 在复杂度和压缩误差方面，Erdős–Rényi 和 Barabási–Albert 等动态网络生成过程有何差异？

主要发现

• 所提出的复杂度度量 ${\cal C}$ 为算法复杂度提供了一种可行的近似，最高误差出现在高度规则的图上，如规则图或对称图。
• 在8个节点的网络中，压缩误差（${\cal C}$ 与 ${\cal C}_z$ 之间的差异）在稀疏规则图中最大，且在误差分布中，低链接数图与随机采样的稠密图之间存在明显分离。
• 非对角线复杂度与压缩误差呈强烈负相关（r = -0.87），表明其是估计误差的有用但不完美的预测因子。
• 研究发现，当 ${\cal C}$ 超过平均随机复杂度3–4比特时，该度量是可靠的，提示了一个近似足够时的阈值。
• 该算法已用C++实现，并集成至Eco Lab开源建模框架中，为未来研究演化网络提供了支持。
• 结果表明，对于大多数网络，尤其是随机或无标度网络，近似度量 ${\cal C}$ 已足够充分；但对于结构化图，仍需更精确的计算。