[논문 리뷰] Federated Graph Neural Networks: Overview, Techniques and Challenges

Rui Liu, Xing, Pengwei외 4명|arXiv (Cornell University)|2022. 02. 15.

Privacy-Preserving Technologies in Data인용 수 27

한 줄 요약

이 논문은 FedGNN에 대한 포괄적 고찰을 제공하며, 2D 분류 체계를 도입하고 GNN-지원 FL 및 FL-지원 GNN 접근법, 데이터셋, 지표 및 미래 방향을 자세히 다룬다.

ABSTRACT

With its capability to deal with graph data, which is widely found in practical applications, graph neural networks (GNNs) have attracted significant research attention in recent years. As societies become increasingly concerned with the need for data privacy protection, GNNs face the need to adapt to this new normal. Besides, as clients in Federated Learning (FL) may have relationships, more powerful tools are required to utilize such implicit information to boost performance. This has led to the rapid development of the emerging research field of federated graph neural networks (FedGNNs). This promising interdisciplinary field is highly challenging for interested researchers to grasp. The lack of an insightful survey on this topic further exacerbates the entry difficulty. In this paper, we bridge this gap by offering a comprehensive survey of this emerging field. We propose a 2-dimensional taxonomy of the FedGNNs literature: 1) the main taxonomy provides a clear perspective on the integration of GNNs and FL by analyzing how GNNs enhance FL training as well as how FL assists GNNs training, and 2) the auxiliary taxonomy provides a view on how FedGNNs deal with heterogeneity across FL clients. Through discussions of key ideas, challenges, and limitations of existing works, we envision future research directions that can help build more robust, explainable, efficient, fair, inductive, and comprehensive FedGNNs.

연구 동기 및 목표

• FedGNNs 문헌을 통합성과 이질성 관점에서 체계화하기 위한 이차원 분류 체계를 제안한다.
• 중앙집중형 및 분산형 설정에서 GNN-지원 FL 접근법과 FL-지원 GNN 접근법을 검토한다.
• FedGNN 연구에서 사용되는 데이터셋, 평가 지표 및 벤치마킹 관행을 논의한다.
• 강건하고 설명가능하며 효율적이고 공정하며 유도형(inductive)인 FedGNN을 위한 주요 도전과제, 한계 및 유망한 향후 방향을 식별한다.

제안 방법

• GNN이 FL 학습을 강화하는 방식과 FL이 GNN 학습을 지원하는 방식을 분석하는 주요 분류 체계를 도입한다.
• FL 클라이언트 간 이질성에 초점을 맞춘 보조 분류 체계를 제안하고 이를 다루는 방법을 제시한다.
• 중심집중형 및 분산형 변형을 포함하여 GNN-지원 FL 및 FL-지원 GNNs 범주에 속하는 기존 FedGNN 방법들을 비판적으로 검토한다.
• FedGNN 벤치마킹에서 사용되는 데이터셋, 평가 프로토콜 및 데이터 분할 전략을 요약한다.
• 강건하고 설명가능하며 효율적이고 공정하며 유도형(inductive)하고 포괄적인 FedGNN으로의 향후 연구 방향을 개략적으로 제시한다.

실험 결과

연구 질문

• RQ1 그래프 구조 관계를 갖는 Federated Learning에서 비 IID 및 이질성 문제를 해결하기 위해 GNN을 어떻게 활용할 수 있는가?
• RQ2 분산되고 프라이버시가 보호된 그래프 데이터에서 GNN의 학습을 가능하게 하기 위해 FL 프레임워크를 어떻게 사용할 수 있는가 (FedGNNs)?
• RQ3 FedGNN 연구에서 널리 사용되는 데이터셋, 지표 및 평가 관행은 무엇이며 그 한계는 무엇인가?
• RQ4 FedGNN에서 강건성, 설명가능성, 효율성, 공정성 및 유도성(inductiveness)을 향상시킬 수 있는 향후 방향은 무엇인가?

주요 결과

• 두 차원 분류 체계는 FL과 GNN의 통합을 클라이언트 간 이질성 처리의 구분으로 FedGNN 연구를 명확히 한다.
• 본 조사는 GNN-지원 FL(중앙집중형 및 분산형)과 FL-지원 GNNs(수평적 및 수직적)를 모두 다루며 이들의 트레이드오프와 프라이버시 고려사항을 강조한다.
• FedGNN 벤치마킹에 자주 사용되는 일반 공개 데이터셋과 평가 지표를 논의하고 실험 설계 개선에 대한 권고를 제시한다.
• 수렴성, 프라이버시 누출 가능성, 확장성, 그래프/프라이버시 보존의 트레이드오프와 같은 핵심 도전과제를 식별하고, 더 강건하고 신뢰할 수 있는 FedGNN으로의 방향을 개략적으로 제시한다.