[論文レビュー] Comparing network covers using mutual information

Alcides Viamontes Esquivel, Martin Rosvall|arXiv (Cornell University)|Feb 2, 2012

Complex Network Analysis Techniques参考文献 2被引用数 14

ひとこと要約

本稿では、ノードが複数のモジュールに属することができるネットワークカバーを、文脈に応じたサンプリングによって重複する所属関係を明確化する拡張された確率的プロセスを導入することで、相互情報量を用いて比較する新規手法を提案する。この手法は、標準的な相互情報量の定義を保持し、パーティション比較と整合性を保ち、サンプリングを用いた誤差推定を可能にする。これにより、ネットワークに限らず一般の集合対集合のバイナリ関係に対しても適用可能となる。

ABSTRACT

In network science, researchers often use mutual information to understand the difference between network partitions produced by community detection methods. Here we extend the use of mutual information to covers, that is, the cases where a node can belong to more than one module. In our proposed solution, the underlying stochastic process used to compare partitions is extended to deal with covers, and the random variables of the new process are simply fed into the usual definition of mutual information. With partitions, our extended process behaves exactly as the conventional approach for partitions, and thus, the mutual information values obtained are the same. We also describe how to perform sampling and do error estimation for our extended process, as both are necessary steps for a practical application of this measure. The stochastic process that we define here is not only applicable to networks, but can also be used to compare more general set-to-set binary relations.

研究の動機と目的

• 非重複のネットワークパーティションを想定して設計された従来の相互情報量フレームワークを、ノードが複数のモジュールに属することができる重複を許容するネットワークカバーに対しても拡張すること。
• 標準的な数え上げ手法を用いた場合に、同等のカバー同士を比較した際に相互情報量の値に一貫性が欠ける問題を解消すること。特に、最大相互情報量がシャノンエントロピーに一致しないという欠陥を是正すること。
• ノードのカバー内における文脈に応じた所属関係を割り当てる確率的プロセスを設計し、相互情報量の定義を変更せずに一貫した適用を可能とすること。
• カバーが実際にパーティションである場合に標準的な相互情報量に還元されることを保証し、既存のパーティション比較と互換性を保つこと。
• 実世界のネットワーク解析に不可欠な、相互情報量の計算における誤差推定とサンプリングの実用的フレームワークを提供すること。

提案手法

• ノードとバイナリインジケータ（0または1）の入れ違いのシーケンスをサンプリングする確率的プロセスを導入し、文脈に応じたノード・モジュールの割り当てをシミュレートする。
• 各入れ違いに対して、バイナリインジケータに応じて積集合（$ s^* $）または差集合（$ s^- $）の操作を適用することで、有効なモジュールの集合を維持する関数 $ J_M $ を定義する。最終状態では、1つのモジュールのみが残ることを保証する。
• サンプル空間を、$ J_M $ が正確に1つのモジュールを出力する（$ |J_M(i)| = 1 $）入れ違いの集合に制限することで、相互情報量計算に適した well-defined な確率変数を保証する。
• 2つのカバー $ M_1 $ と $ M_2 $ 間の相互情報量を、確率変数 $ J_{M_1}(I_E) $ と $ J_{M_2}(I_E) $ 間の相互情報量として定義する。標準の式 $ I(X;Y) = \sum_{x,y} p(x,y) \log_2\left(\frac{p(x,y)}{p(x)p(y)}\right) $ を用いる。
• 有効な入れ違いの集合上で一様にサンプリングすることで確率を推定し、相互情報量を計算する。これにより、統計的サンプリングを用いた誤差推定が可能となる。
• カバー内のすべてのモジュールがノードの内容において相異なる場合、このプロセスは常に1つのモジュールを出力することを証明し、出力が well-defined であり理論的枠組みと整合することを保証する。

実験結果

リサーチクエスチョン

• RQ1 標準的な数え上げ手法が、同等のカバー同士を比較する際に最大相互情報量がシャノンエントロピーと一致しないという問題を解消するため、重複するモジュールを有するネットワークカバーに対して相互情報量を一貫して適用する方法は何か？
• RQ2 どの確率的プロセスが、カバー内でのノードの複数所属関係を解消し、定義を変更せずに相互情報量の原理的適用を可能にするか？
• RQ3 提案された確率的プロセスが、各入れ違いに対して一意のモジュールを出力する条件は何か？これにより、相互情報量計算に適した well-defined な確率変数が保証される。
• RQ4 サンプリングと誤差推定を、カバーの相互情報量計算に統合するにはどうすればよいか？これにより、大規模な実世界のネットワーク解析が可能となる。
• RQ5 提案手法はネットワークに限らず、任意の集合対集合のバイナリ関係の比較へ一般化可能か？

主な発見

• 提案された確率的プロセスにより、カバーが実際にパーティションである場合、標準的な数え上げ手法と同一の相互情報量値が得られ、一貫性が保たれる。
• 同等のカバー同士を比較する際、最大相互情報量がシャノンエントロピーに正確に一致する。これは、従来の数え上げ手法に見られる主な欠陥を是正した。
• 拡張されたプロセスは well-defined であり、カバー内のすべてのモジュールがノードの内容で異なる場合、各有効な入れ違いに対して常に1つのモジュールが出力される。これは付録Bで証明済み。
• 有効な入れ違いの集合上でサンプリングすることで、誤差の制御可能な実用的計算が可能となり、実世界の応用を支援する。
• このフレームワークはネットワークに限らず、任意の集合対集合のバイナリ関係の比較に一般化可能であり、ネットワーク構造に限定されない。
• この手法は従来の相互情報量理論と互換性を保ち、標準的な式を変更することなく、その適用分野を拡張する。