[論文レビュー] Overlapping Community Detection with Graph Neural Networks

Oleksandr Shchur, Stephan Günnemann|arXiv (Cornell University)|Sep 26, 2019

Complex Network Analysis Techniques参考文献 42被引用数 30

ひとこと要約

本稿では、ベルヌーイ・ポアソン生成モデルを用いて、ノード表現とコミュニティ所属関係を同時に学習する、グラフニューラルネットワーク（GNN）ベースのモデルNOCDを提案する。このモデルは、精度とスケーラビリティの面で既存のベースラインを上回り、GNNが性能に不可欠であることが示され、特にノード特徴量が強くないグラフにおいて顕著である。

ABSTRACT

Community detection is a fundamental problem in machine learning. While deep learning has shown great promise in many graphrelated tasks, developing neural models for community detection has received surprisingly little attention. The few existing approaches focus on detecting disjoint communities, even though communities in real graphs are well known to be overlapping. We address this shortcoming and propose a graph neural network (GNN) based model for overlapping community detection. Despite its simplicity, our model outperforms the existing baselines by a large margin in the task of community recovery. We establish through an extensive experimental evaluation that the proposed model is effective, scalable and robust to hyperparameter settings. We also perform an ablation study that confirms that GNN is the key ingredient to the power of the proposed model.

研究の動機と目的

• 現実のグラフにおいて一般的ではあるが、深層学習モデルが不足している重なりありコミュニティ検出という問題に対処する。
• グラフニューラルネットワークと確率的コミュニティモデリングを統合した、エンドツーエンド微分可能なフレームワークを構築し、重なりありノード所属関係を学習する。
• 4つの新しいデータセットとリファレンス実装を導入することで、重なりありコミュニティ検出のベンチマークを確立する。
• GNNが性能に不可欠であることを実証する。特にノード属性が信頼性が低いか欠落している場合に顕著である。

提案手法

• エンドツーエンド最適化により非負のコミュニティ所属行列を学習する、微分可能なニューラルネットワークアーキテクチャNOCDを提案する。
• ノード所属ベクトルの内積に基づいてエッジの尤度を定義するベルヌーイ・ポアソン生成モデルを用い、重なりありコミュニティを可能にする。
• 非負性制約を課すために、投影勾配降下法とAdam最適化アルゴリズムを用いて、負の対数尤度を最小化する形でモデルを訓練する。
• 2つの変種を設計：NOCD-X（ノード特徴量を入力とする）とNOCD-G（隣接行列を入力とする）。これにより、異なるデータタイプに対応する柔軟性を実現する。
• GNN層を統合し、近隣情報の伝搬と集約を実現することで、コミュニティ検出に不可欠な構造的パターンを捉える。
• アブレーションスタディを実施し、GNNの貢献度を隔離し、MLPおよび自由変数ベースラインと比較する。

実験結果

リサーチクエスチョン

• RQ1 グラフニューラルネットワークは、コミュニティが互いに排他的でない重なりありコミュニティ検出タスクに効果的に適用可能か？
• RQ2 GNNベースのモデルは、非ディープラーニングおよび非GNNのディープラーニングベースラインと比較して、重なりありコミュニティ検出においてどのように性能を発揮するか？
• RQ3 ノード特徴量がノイズが多いかスパースな場合、GNNとノード特徴量の相対的な貢献度は何か？特に、特徴量が不十分な状況での影響を評価する。
• RQ4 提案モデルは大規模グラフにどの程度スケーラブルであり、さまざまなハイパーパrameter設定に対してもロバストであるか？
• RQ5 提案モデルを用いて、ノード属性がコミュニティ構造に与える関連性を定量化できるか？

主な発見

• NOCDモデルは、11のベンチマークデータセットにおいて、既存のベースラインを著しく上回り、正規化相互情報量（NMI）スコアが高くなる。
• ノード属性が信頼できる場合（例：化学および工学分野のデータセット）、MLPベースのモデルは良好な性能を示すが、属性が情報量が少ないフェイスブックデータセットでは失敗する。
• 隣接行列を入力として使用する際、GNNベースのモデルはMLPベースのバージョンを常に上回り、構造的インダクティブバイアスの重要性が裏付けられる。
• アブレーションスタディにより、GNN部が性能に不可欠であることが確認され、その除去により、特にノード特徴量が弱いグラフでは精度が著しく低下する。
• モデルはスケーラブルであり、ハイパーパrameter設定に対してロバストで、多様なグラフタイプおよびコミュニティ構造において一貫した性能を発揮する。
• 4つの新しいベンチマークデータセットの導入により、標準化された評価と、今後の重なりありコミュニティ検出分野の研究が可能になる。