[論文レビュー] Algorithmic infeasibility of community detection in higher-order networks

Tatsuro Kawamoto|arXiv (Cornell University)|Oct 24, 2017

Complex Network Analysis Techniques参考文献 1被引用数 5

ひとこと要約

本稿では、複数のエッジタイプを有する高次元ネットワークが、情報量が豊富であるにもかかわらず、コミュニティ検出においてアルゴリズム的に非実行可能になる可能性があることを示している。著者らは、ラベル付き確率的ブロックモデル（labeled SBM）に期待最大化（EM）アルゴリズムと信念伝播を適用し、検出可能性の閾値を解析的に導出し、特定の条件下では一部のエッジタイプを無視することで検出性能が向上することを示した。これにより、低次のネットワークが高次のネットワークを上回るフェーズが存在することが明らかになった。

ABSTRACT

In principle, higher-order networks that have multiple edge types are more informative than their lower-order counterparts. In practice, however, excessively rich information may be algorithmically infeasible to extract. It requires an algorithm that assumes a high-dimensional model and such an algorithm may perform poorly or be extremely sensitive to the initial estimate of the model parameters. Herein, we address this problem of community detection through a detectability analysis. We focus on the expectation-maximization (EM) algorithm with belief propagation (BP), and analytically derive its algorithmic detectability threshold, i.e., the limit of the modular structure strength below which the algorithm can no longer detect any modular structures. The results indicate the existence of a phase in which the community detection of a lower-order network outperforms its higher-order counterpart.

研究の動機と目的

• 複数のエッジタイプを有する高次元ネットワークが、コミュニティ検出において常に有益であるかどうかを調査すること。
• 期待最大化（EM）と信念伝播を併用する場合の、このようなネットワークにおけるコミュニティ検出のアルゴリズム的非実行可能性を分析すること。
• ラベル付き確率的ブロックモデル（labeled SBM）におけるEMアルゴリズムの解析的検出可能性閾値を導出すること。
• 低次のネットワークが高次のネットワークを上回るコミュニティ検出性能を示す条件を特定すること。
• 特定のエッジタイプを除外することで検出性能が向上する理論的根拠を提供すること。

提案手法

• 本研究では、非エッジ（α=0）を含むp+1種類のエッジタイプを持つラベル付き確率的ブロックモデル（labeled SBM）を用いて、高次元ネットワークをモデル化した。
• スパarsな状態（cα=O(1)）を想定し、EMアルゴリズムに信念伝播を組み合わせて、隠れコミュニティの割り当てとモデルパラメータの推定を実行した。
• 固定点の安定性を評価するため、ジャコビアン行列B′のスペクトル解析を用いて検出可能性の閾値を導出した。この安定性は、固有値λ_isoとλ_bによって決定される。
• 検出可能性境界は、∑α>0 |Δcα| = 2√c として解析的に表現され、Δcα = cα_in - cα_outであり、cは全平均次数である。
• 信念伝播方程式の固定点の安定性を評価し、アルゴリズムが埋め込まれたコミュニティ構造を回復できない状況を同定した。
• 数値的検証を実施し、特定のエッジタイプを除外することで、元来検出不能であった構造が回復可能になることを示した。

実験結果

リサーチクエスチョン

• RQ1 高次元ネットワークに複数のエッジタイプが存在する場合、常にコミュニティ検出性能が向上するのか？
• RQ2 EMアルゴリズムに信念伝播を組み合わせた場合、高次元ネットワークにおけるモジュラー構造の検出に失敗する条件は何か？
• RQ3 高次元ネットワークから特定のエッジタイプを除外することで、すべてのエッジタイプを使用する場合よりも優れたコミュニティ検出が達成可能か？
• RQ4 複数のエッジタイプを有するラベル付き確率的ブロックモデルにおけるコミュニティ検出の解析的検出可能性閾値は何か？
• RQ5 初期パラメータ推定値が、高次元ネットワークにおけるコミュニティ検出のアルゴリズム的非実行性に与える影響は何か？

主な発見

• EMアルゴリズムに信念伝播を組み合わせた手法は、真の構造が埋め込まれている場合でも、検出可能性閾値以下の領域ではモジュラー構造を回復できない。
• 検出可能性閾値は解析的に∑α>0 |Δcα| = 2√cとして導出され、Δcαはエッジタイプαにおけるモジュール内およびモジュール間の接続密度の差である。
• 低次のネットワーク（1種類のエッジタイプのみ）が高次のネットワーク（複数のエッジタイプ）を上回る性能を示すフェーズが存在する。これは、高次のネットワークにおけるアルゴリズム的非実行性に起因する。
• 初期パラメータ推定値が一様事前分布に近い場合、|λ_iso(B′)| ≤ 1 であれば、アルゴリズムは埋め込まれた構造を回復できない。これは閾値条件に対応する。
• 寄与度が低いか、不均一なエッジタイプを除外することで、元来検出不能であったモジュラー構造が検出可能になることが確認され、高次モデルにおけるアルゴリズム的非実行性が裏付けられた。
• 検出可能性境界は、位相図における破線の楕円に接する単体であり、初期のモデルパラメータ推定値に依存する形状を示す。