[論文レビュー] FedGraphNN: A Federated Learning System and Benchmark for Graph Neural Networks

Chaoyang He, Keshav Balasubramanian+12 more|arXiv (Cornell University)|Apr 14, 2021

Advanced Graph Neural Networks参考文献 102被引用数 103

ひとこと要約

FedGraphNNは、グラフニューラルネットワークのためのオープンなフェデレーテッドラーニングベンチマークシステムを導入し、多様なデータセット、GNNモデル、FLアルゴリズムにまたがり、交差サイロ型のフェデレーテッドグラフ学習のための効率的で安全かつモジュラーなシステムを提供します。

ABSTRACT

Graph Neural Network (GNN) research is rapidly growing thanks to the capacity of GNNs in learning distributed representations from graph-structured data. However, centralizing a massive amount of real-world graph data for GNN training is prohibitive due to privacy concerns, regulation restrictions, and commercial competitions. Federated learning (FL), a trending distributed learning paradigm, provides possibilities to solve this challenge while preserving data privacy. Despite recent advances in vision and language domains, there is no suitable platform for the FL of GNNs. To this end, we introduce FedGraphNN, an open FL benchmark system that can facilitate research on federated GNNs. FedGraphNN is built on a unified formulation of graph FL and contains a wide range of datasets from different domains, popular GNN models, and FL algorithms, with secure and efficient system support. Particularly for the datasets, we collect, preprocess, and partition 36 datasets from 7 domains, including both publicly available ones and specifically obtained ones such as hERG and Tencent. Our empirical analysis showcases the utility of our benchmark system, while exposing significant challenges in graph FL: federated GNNs perform worse in most datasets with a non-IID split than centralized GNNs; the GNN model that attains the best result in the centralized setting may not maintain its advantage in the FL setting. These results imply that more research efforts are needed to unravel the mystery behind federated GNNs. Moreover, our system performance analysis demonstrates that the FedGraphNN system is computationally efficient and secure to large-scale graphs datasets. We maintain the source code at https://github.com/FedML-AI/FedGraphNN.

研究の動機と目的

• 統一的なフェデレーテッドグラフ学習フレームワーク（graph FL）と多様なタスク設定（graph-level、subgraph-level、node-level）を提供する。
• 7つのドメインから36のグラフデータセットを組み立て、現実的な非IIDフェデレーテッドシナリオを模擬する。
• 再現性のある実験を可能にする、効率的で安全かつモジュラーなFedGraphNNベンチマークシステムを提供する。
• フェデレーテッドGNNが集中型ベースラインと比較してどう機能するかを評価し、グラフFLにおける主要な課題を明らかにする。

提案手法

• FedGraphNNを、K個のクライアントの局所目的関数がデータの割合で重みづけられる分散最適化問題として定式化する（F(W)=sum_k (N^(k)/N) f^(k)(W)）。
• 2段階のフェーズを持つ誘導型GNNフレームワーク（MPNN）を採用し、メッセージパッシングとリードアウトを通じて、さまざまなGNN（GCN、GAT、GraphSAGE、SGC、GIN）を可能にする。
• FLアルゴリズム（FedAvg、FedOPT など）と、プライバシー保護フェデレーションのためのセキュアなアグリゲーション（LightSecAgg）をサポートする。
• グラフFLをgraph-level、subgraph-level、node-levelの設定に分類し、対応する典型的なタスク（グラフ分類、リンク予測、ノード分類）を明示する。
• 実験・ベンチマーク・クロスサイロ環境でのデプロイメントを容易にするモジュラーAPIとデータローダを提供する。

実験結果

リサーチクエスチョン

• RQ1 グラフレベル、サブグラフレベル、ノードレベルのFL設定で、フェデレーテッド学習がGNNの性能にどのような影響を与えるのか。
• RQ2 非IIDデータパーティショニングが、集中トレーニングと比較してフェデレーテッドGNNの精度に与える影響は何か。
• RQ3 どのGNNアーキテクチャとFLアルゴリズムが、グラフFL下で最も堅牢で、精度低下が少ないのか。
• RQ4 大規模なグラフデータセットに対するFedGraphNNのシステム効率とセキュリティ特性はどうか。
• RQ5 グラフFLにおいて、さらなる方法論的・ベンチマークの改善が必要な課題は何か。

主な発見

• フェデレーテッドGNNは、より大規模で非IIDなグラフデータセット上で集中型GNNより性能が劣ることが多い一方、小規模データセットでは同等程度の結果が得られることがある。
• 最良の集中型モデルが必ずしも最良のFLモデルに結びつくわけではなく、グラフ固有のFLダイナミクスを示す。
• GATはグラフレベルFLで大きな精度ギャップを示すことが多い一方、CIAO、CORA、PubMedなどのデータセットではサブグラフ-またはノードレベルFLにおいて集中トレーニングを上回る場合がある。
• FedGraphNNはLightSecAggを通じて計算効率とセキュリティを実証し、他のベースラインより高速なアグリゲーションでプライバシーを保持する。
• グラフのサイズに応じてトレーニング時間は数分から約1時間程度で変動し、セキュアアグゲーションはSecAgg系と同等のプライバシー保証を維持する。