[논문 리뷰] A Comprehensive Survey on Trustworthy Graph Neural Networks: Privacy, Robustness, Fairness, and Explainability

Enyan Dai, Tianxiang Zhao외 6명|arXiv (Cornell University)|2022. 04. 18.

Adversarial Robustness in Machine Learning인용 수 67

한 줄 요약

프라이버시, 강건성, 공정성, 설명 가능성에 걸친 신뢰 가능한 GNN을 포괄적으로 조사하고, 분류 체계, 프레임워크 및 향후 방향을 제시하는 포괄적 고찰.

ABSTRACT

Graph Neural Networks (GNNs) have made rapid developments in the recent years. Due to their great ability in modeling graph-structured data, GNNs are vastly used in various applications, including high-stakes scenarios such as financial analysis, traffic predictions, and drug discovery. Despite their great potential in benefiting humans in the real world, recent study shows that GNNs can leak private information, are vulnerable to adversarial attacks, can inherit and magnify societal bias from training data and lack interpretability, which have risk of causing unintentional harm to the users and society. For example, existing works demonstrate that attackers can fool the GNNs to give the outcome they desire with unnoticeable perturbation on training graph. GNNs trained on social networks may embed the discrimination in their decision process, strengthening the undesirable societal bias. Consequently, trustworthy GNNs in various aspects are emerging to prevent the harm from GNN models and increase the users' trust in GNNs. In this paper, we give a comprehensive survey of GNNs in the computational aspects of privacy, robustness, fairness, and explainability. For each aspect, we give the taxonomy of the related methods and formulate the general frameworks for the multiple categories of trustworthy GNNs. We also discuss the future research directions of each aspect and connections between these aspects to help achieve trustworthiness.

연구 동기 및 목표

• GNN에 대한 프라이버시 공격과 방어의 포괄적인 분류 체계를 제시한다.
• 강건성 및 공격/방어 메커니즘을 조사하고, 확장 가능한 공격과 자체 설명 가능한 GNN을 포함한다.
• 그래프 구조 데이터에서의 공정성 문제를 분석하고 공정한 GNN 모델을 제안한다.
• GNN의 설명 가능성 접근법을 요약하고 그것들이 다른 신뢰성 요소와 상호 작용하는 방식을 다룬다.
• 프라이버시, 강건성, 공정성, 설명 가능성 간의 향후 방향 및 상호 연결성을 논의한다.

제안 방법

• 신뢰성 프레임을 설정하기 위해 표준 기호와 GNN 기본을 도입한다.
• 회원 침해, 재구성, 속성 추론, 모델 추출 등을 포함한 프라이버시 공격의 분류 체계를 제시하고, 공격자의 지식 설정(화이트박스/블랙박스)을 함께 다룬다.
• 섀도우 데이터셋과 공격 모델을 이용한 프라이버시 공격의 통합 감독 프레임워크를 설명한다.
• 프라이버시 보존 GNN 접근법(예: 차등 프라이버시, 연합 학습, 언러닝, 적대적 프라이버시)을 요약하고 그래프에의 적용 가능성을 논의한다.
• 강건성, 공격의 확장성, 그래프 백도어 공격 및 방어를 조사한다.
• 공정성 정의와 공정한 GNN 모델을 조사하고, 설명 가능성 방법과 도전에 대해 논의한다.
• 프라이버시, 강건성, 공정성, 설명 가능성 간의 상호 작용과 교차 연결을 강조한다.

실험 결과

연구 질문

• RQ1 GNN은 어떤 프라이버시 위험을 제기하며, 어떤 유형의 공격이 그래프 구조 데이터와 모델을 위협하는가?
• RQ2 GNN에 효과적인 방어 및 프라이버시 보존 기법은 무엇이며, 그래프에 어떻게 확장되는가?
• RQ3 공정성 문제는 GNN에서 어떻게 나타나며, 그래프에서 편향을 완화하는 모델은 무엇인가?
• RQ4 GNN에 대한 어떤 설명 가능성 접근법이 존재하며, 설명이 다른 차원의 신뢰성에 어떻게 도움이 되는가?
• RQ5 GNN에서 프라이버시, 강건성, 공정성, 설명 가능성을 연결하는 남은 과제와 향후 방향은 무엇인가?

주요 결과

• 본 논문은 GNN에 대한 프라이버시 공격의 상세한 분류 체계를 제공하며, 회원 침해, 재구성, 속성 추론, 모델 추출 등을 포함한다.
• 화이트박스와 블랙박스 등의 공격자 지식 설정을 도입하고, 프라이버시 공격을 위한 통합 감독 프레임워크를 설명한다.
• 차등 프라이버시와 연합 학습 등 프라이버시 보존 GNN 방법을 다루고, 그래프 데이터에의 적용 가능성을 논의한다.
• 확장 가능하고 백도어 공격 및 GNN에 특화된 방어를 포함한 강건성 주제를 다룬다.
• 공정성 정의와 공정한 GNN 모델을 검토하고, 그래프 도메인에서의 설명 가능성 접근법과 도전에 대해 논의한다.
• 프라이버시, 강건성, 공정성, 설명 가능성 간의 상호 연결을 분석하고, 교차 측면의 이점과 위험을 강조한다.