[論文レビュー] Federated Graph Neural Networks: Overview, Techniques and Challenges

Rui Liu, Xing, Pengwei+4 more|arXiv (Cornell University)|Feb 15, 2022

Privacy-Preserving Technologies in Data被引用数 27

ひとこと要約

本論文は FedGNNs の包括的な調査を提供し、2次元分類体系を導入し、GNN 支援型FL および FL 支援型 GNN アプローチ、データセット、指標、将来の方向性を詳述する。

ABSTRACT

With its capability to deal with graph data, which is widely found in practical applications, graph neural networks (GNNs) have attracted significant research attention in recent years. As societies become increasingly concerned with the need for data privacy protection, GNNs face the need to adapt to this new normal. Besides, as clients in Federated Learning (FL) may have relationships, more powerful tools are required to utilize such implicit information to boost performance. This has led to the rapid development of the emerging research field of federated graph neural networks (FedGNNs). This promising interdisciplinary field is highly challenging for interested researchers to grasp. The lack of an insightful survey on this topic further exacerbates the entry difficulty. In this paper, we bridge this gap by offering a comprehensive survey of this emerging field. We propose a 2-dimensional taxonomy of the FedGNNs literature: 1) the main taxonomy provides a clear perspective on the integration of GNNs and FL by analyzing how GNNs enhance FL training as well as how FL assists GNNs training, and 2) the auxiliary taxonomy provides a view on how FedGNNs deal with heterogeneity across FL clients. Through discussions of key ideas, challenges, and limitations of existing works, we envision future research directions that can help build more robust, explainable, efficient, fair, inductive, and comprehensive FedGNNs.

研究の動機と目的

• 統合と異質性の観点から FedGNNs 文献を整理するための2次元分類体系を提案する。
• 集中型および分散型の設定において、GNN支援型FLアプローチとFL支援型GNNアプローチを概観する。
• FedGNN 研究で用いられるデータセット、評価指標、ベンチマーク実践を論じる。
• 堅牢で説明可能、効率的、公正、かつ帰納的な FedGNNs の主要な課題、限界、将来有望な方向性を特定する。

提案手法

• GNN が FL 学習をどのように強化するか、そして FL が GNN 学習をどのように支援するかを分析する主要な分類体系を導入する。
• FL クライアント間の異質性に焦点を当て、それをどのように扱うかに関する補助的分類体系を提案する。
• GNN支援型FLおよびFL支援型GNNのカテゴリの下で、集中型および分散型を含む既存のFedGNN手法を批判的にレビューする。
• FedGNNベンチマークで用いられるデータセット、評価プロトコル、およびデータ分割戦略を要約する。
• 堅牢で説明可能、効率的、公正、帰納的、包括的なFedGNNへ向けた将来の研究方向を概説する。

実験結果

リサーチクエスチョン

• RQ1 グラフ構造を持つ関係を前提とした連合学習における非IID性と異質性の課題を GNN を用いてどのように解決できるか？
• RQ2 分散されたプライバシー保護されたグラフデータ上で GNN のトレーニングを可能にするために、FL フレームワークをどのように活用できるか（FedGNNs）？
• RQ3 FedGNN 研究で一般的なデータセット、指標、および評価実践は何であり、それらの制約は何か？
• RQ4 FedGNNs の堅牢性、説明可能性、効率、公平性、帰納性を高める将来の方向性は何か？

主な発見

• 2次元分類体系は、FLとGNNの統合とクライアント間異質性の取り扱いを分離することで、FedGNN 研究を明確にする。
• この調査は、GNN支援型FL（集中型および分散型）およびFL支援型GNNs（水平および垂直）を網羅し、それらのトレードオフとプライバシー上の配慮を強調している。
• FedGNNベンチマークに用いられる一般的な公開データセットと評価指標が議論され、実験設計を改善するための提言が示される。
• 収束性、プライバシー漏洩の可能性、スケーラビリティ、グラフ/プライバシー保護のトレードオフといった核となる課題を特定し、より堅牢で信頼性の高いFedGNNへ向けた方向性を概説する。