[논문 리뷰] Trustworthy Graph Neural Networks: Aspects, Methods and Trends

He Zhang, Bang Ye Wu외 4명|arXiv (Cornell University)|2022. 05. 16.

Adversarial Robustness in Machine Learning참고 문헌 365인용 수 39

한 줄 요약

이 설문조사는 신뢰할 수 있는 GNN을 정의하고 여섯 가지 측면(강건성, 설명가능성, 개인정보, 공정성, 책임성, 환경적 웰빙)을 체계적으로 검토하며 개방적 프레임워크, 지표, 및 교차 측면 관계를 제시한다. 또한 연구 및 산업화에 대한 트렌딩 방향을 논의한다.

ABSTRACT

Graph neural networks (GNNs) have emerged as a series of competent graph learning methods for diverse real-world scenarios, ranging from daily applications like recommendation systems and question answering to cutting-edge technologies such as drug discovery in life sciences and n-body simulation in astrophysics. However, task performance is not the only requirement for GNNs. Performance-oriented GNNs have exhibited potential adverse effects like vulnerability to adversarial attacks, unexplainable discrimination against disadvantaged groups, or excessive resource consumption in edge computing environments. To avoid these unintentional harms, it is necessary to build competent GNNs characterised by trustworthiness. To this end, we propose a comprehensive roadmap to build trustworthy GNNs from the view of the various computing technologies involved. In this survey, we introduce basic concepts and comprehensively summarise existing efforts for trustworthy GNNs from six aspects, including robustness, explainability, privacy, fairness, accountability, and environmental well-being. Additionally, we highlight the intricate cross-aspect relations between the above six aspects of trustworthy GNNs. Finally, we present a thorough overview of trending directions for facilitating the research and industrialisation of trustworthy GNNs.

연구 동기 및 목표

• 신뢰할 수 있는 GNN을 정의하고 성능을 넘어선 그 중요성을 동기 부여한다.
• GNN에서 신뢰 지향적 측면을 특징화하는 개방형 프레임워크를 제안한다.
• 각 측면에 대한 일반적인 방법, 평가 지표, 및 분류 체계를 요약한다.
• 신뢰성 차원 간의 교차 관계 및 trade-off를 분석한다.
• 신뢰할 수 있는 GNN의 연구와 산업적 배치를 촉진하기 위한 트렌드와 방향을 강조한다.

제안 방법

• GNN에 맞춘 핵심 신뢰성 개념과 여섯 가지 측면을 소개한다.
• 각 측면에 대한 세밀한 분류 체계와 지표를 제공한다(강건성, 설명가능성, 개인정보, 공정성, 책임성, 환경적 웰빙).
• 강건성에 대해 사전 학습(pre-training), 학습(training), 사후 학습(post-training) 단계에서의 방어 및 획득 방법을 분류한다.
• 교차 측면 관계와 한 측면의 개선이 다른 측면에 어떤 영향을 미치는지 논의한다.
• 관련 설문조사와의 비교 및 새로운 신뢰 지향 측면에 확장 가능한 개방형 프레임워크를 제시한다.

실험 결과

연구 질문

• RQ1 GNN에서 신뢰성은 무엇으로 구성되며 어떻게 측정할 수 있는가?
• RQ2 GNN에서 각 신뢰 측면을 개선하는 방법은 무엇이며, 개발 단계별로 어떻게 분류되는가?
• RQ3 GNN 설계 및 평가에서 서로 다른 신뢰 측면은 어떻게 상호 작용하거나 충돌하는가?
• RQ4 연구와 산업 전반에서 신뢰 가능한 GNN을 발전시키기 위한 유망한 방향은 무엇인가?

주요 결과

• 강건성, 설명가능성, 개인정보, 공정성, 책임성, 환경적 웰빙을 포괄하는 신뢰할 수 있는 GNN을 위한 개방형 프레임워크.
• GNN의 각 신뢰 측면을 평가하기 위한 포괄적이고 세밀한 분류 체계와 지표.
• 한 측면의 방법이 다른 측면에 어떻게 영향을 미치는지, 그리고 어느 지점에서 trade-off가 발생하는지에 대한 교차 측면 분석.
• 신뢰 가능한 GNN 설문이 일반적인 신뢰 가능한 AI 설문 및 성능 중심의 GNN 설문과 어떻게 다른지에 대한 비교.
• 신뢰 가능한 GNN의 연구 진전과 산업적 배치를 촉진하기 위한 트렌딩 방향에 대한 전망.