[論文レビュー] Complexity of Networks

Russell K. Standish|ArXiv.org|Aug 17, 2005

Computability, Logic, AI Algorithms参考文献 6被引用数 12

ひとこと要約

本稿では、アルゴリズム的情報理論に基づき、非先行バイナリ表現と自己同型群による同値記述の数え上げを用いて、ネットワークの複雑性を計算的に実行可能な方法で推定するアルゴリズムを提案する。主な貢献は、真のアルゴリズム的複雑性を近似する実用的測度${\cal C}$であり、非常に規則的なグラフを除き顕著な過大評価を示す。8ノードのネットワークに対して網羅的な計算による検証がなされている。

ABSTRACT

Network or graph structures are ubiquitous in the study of complex systems. Often, we are interested in complexity trends of these system as it evolves under some dynamic. An example might be looking at the complexity of a food web as species enter an ecosystem via migration or speciation, and leave via extinction. In this paper, a complexity measure of networks is proposed based on the {\em complexity is information content} paradigm. To apply this paradigm to any object, one must fix two things: a representation language, in which strings of symbols from some alphabet describe, or stand for the objects being considered; and a means of determining when two such descriptions refer to the same object. With these two things set, the information content of an object can be computed in principle from the number of equivalent descriptions describing a particular object. I propose a simple representation language for undirected graphs that can be encoded as a bitstring, and equivalence is a topological equivalence. I also present an algorithm for computing the complexity of an arbitrary undirected network.

研究の動機と目的

• アルゴリズム的情報理論の原則に整合する、計算的に実行可能なネットワーク複雑性の測度を開発すること。
• 大規模ネットワークでは正確なアルゴリズム的複雑性の計算が非現実的であることを踏まえ、実用的な近似手法を導入すること。
• ${\cal C}$と、完全な記述列挙に基づくより正確だが非現実的な測度${\cal C}_z$との乖離を評価すること。
• ${\cal C}$が信頼できる使用が可能となる状況と、より正確な計算が必須となる状況を特定すること。
• ネットワーク構造（例：規則性、スケールフリープロパティ）と複雑性推定誤差の関係を調査すること。

提案手法

• 無向グラフのための非先行バイナリ表現言語を定義し、ノード数と隣接行列をビットストリングとして符号化する。
• ${\cal C}(x)$の複雑度測度は、自己同型群のサイズから導かれる同値記述数$\omega(\ell,x)$を含む極限式を用いて計算される。
• すべてのノードラベルの置換を繰り返し処理して、一意なビットストリング表現の数を数え、重複を避けるためにセットに格納するアルゴリズムを実装する。
• より大きなネットワークでは、リンク数が与えられたグラフの空間からサンプリングを行い、スパarsity（スパarsity）と密度の区別に閾値を用いる。
• ${\cal C}$とより正確な${\cal C}_z$の乖離は、圧縮誤差$({\cal C} - {\cal C}_z)/{\cal C}$として定量化される。
• 非対角複雑度を圧縮誤差の予測子として用い、相関を評価するための線形回帰分析を実施する。

実験結果

リサーチクエスチョン

• RQ1 網羅的列挙を伴わずに、無向ネットワークのアルゴリズム的複雑度を実用的にどのように推定できるか。
• RQ2 完全な記述列挙ではなく、自己同型に基づく数え上げによる近似によって、アルゴリズム的複雑度にどの程度の誤差が生じるか。
• RQ3 非対角複雑度は、近似測度と正確測度の乖離をどの程度まで予測できるか。
• RQ4 ${\cal C}$という単純な複雑度測度が十分に信頼できる状況と、より正確な${\cal C}_z$が必要となる状況はそれぞれどのような場合か。
• RQ5 エリックストロム＝レニャイとバラバシ＝アレルトのモデルのような動的ネットワーク生成プロセスにおいて、複雑度と圧縮誤差の観点から、両者の違いは何か。

主な発見

• ${\cal C}$は、真のアルゴリズム的複雑度の実行可能な近似を提供しており、特に非常に規則的なグラフ（例：正則または対称的ネットワーク）で最大の誤差を示す。
• 8ノードのネットワークにおいて、圧縮誤差（${\cal C}$と${\cal C}_z$の差）は、スパarsな正則グラフで最大となり、リンク数が少ない場合とランダムに抽出された密度の高いグラフの間で、誤差分布に明確な分離が見られた。
• 非対角複雑度は圧縮誤差と強い負の相関（r = -0.87）を示し、推定誤差の予測子として有用だが、完全ではないことがわかった。
• 本研究では、${\cal C}$が平均的なランダム複雑度を3〜4ビット以上上回る場合には信頼できることが判明し、近似が十分であると判断できる閾値が示された。
• アルゴリズムはC++で実装され、将来の進化ネットワークの研究を可能にするオープンソースのモデリングフレームワークEco Labに統合された。
• 結果から、特にランダムまたはスケールフリーなネットワークでは、近似${\cal C}$が十分に適切であるが、構造的グラフではより正確な計算が必要であると示唆された。