[논문 리뷰] A Survey of Trustworthy Graph Learning: Reliability, Explainability, and Privacy Protection

Bingzhe Wu, Jintang Li외 18명|arXiv (Cornell University)|2022. 05. 20.

Advanced Graph Neural Networks인용 수 9

한 줄 요약

이 종합적 서베이는 신뢰할 수 있는 그래프 학습(TwGL)에 대해 종합적이고 통합적인 검토를 제공하며, 딥 그래프 학습에서의 신뢰성, 설명 가능성, 기밀 보호에 초점을 맞춘다. 이 서베이에서는 세 가지 차원(신뢰성, 설명 가능성, 기밀 보호)에 걸쳐 최신 기법들을 분류하고, 적대적 공격 및 멤버십 추론과 같은 위협을 분석하며, 비밀 보장 기법으로서 차등적 개인정보 보호(DP)와 보안 다자간 계산(MPC)을 평가하여 향후 신뢰할 수 있는 GNN 개발의 기초를 마련한다.

ABSTRACT

Deep graph learning has achieved remarkable progresses in both business and scientific areas ranging from finance and e-commerce, to drug and advanced material discovery. Despite these progresses, how to ensure various deep graph learning algorithms behave in a socially responsible manner and meet regulatory compliance requirements becomes an emerging problem, especially in risk-sensitive domains. Trustworthy graph learning (TwGL) aims to solve the above problems from a technical viewpoint. In contrast to conventional graph learning research which mainly cares about model performance, TwGL considers various reliability and safety aspects of the graph learning framework including but not limited to robustness, explainability, and privacy. In this survey, we provide a comprehensive review of recent leading approaches in the TwGL field from three dimensions, namely, reliability, explainability, and privacy protection. We give a general categorization for existing work and review typical work for each category. To give further insights for TwGL research, we provide a unified view to inspect previous works and build the connection between them. We also point out some important open problems remaining to be solved in the future developments of TwGL.

연구 동기 및 목표

• 금융 및 헬스케어와 같은 위험 감수성이 높은 분야에서 신뢰할 수 있는 딥 그래프 학습(DGL)에 대한 증가하는 수요를 충족시키기 위해.
• 그래프 신경망(GNN)에서의 신뢰성, 설명 가능성, 기밀 보호에 대한 기존 접근법을 체계적으로 검토하기 위해.
• 다양한 연구 노력들을 공통 프레임워크 아래 통합하고 핵심 기술적 연결 고리를 규명하기 위해.
• 사회적 책임을 다하고 규제에 부합하는 GNN 시스템을 구축하는 데 있어 열려 있는 문제점과 향후 연구 방향을 부각하기 위해.

제안 방법

• 신뢰할 수 있는 그래프 학습 분야의 기존 연구를 세 핵심 차원으로 분류: 신뢰성(노이즈, 분포 이탈, 적대적 공격에 대한 강건성), 설명 가능성(모델 해석 및 특성 기여도), 기밀 보호(멤버십 및 모델 추출 공격).
• 그래프 오토에인코더, 강건한 GNN 아키텍처, 데이터 정제 방법과 같은 적대적 방어 기법을 검토하여 모델의 내성 강화를 도모.
• 기울기 기반, 편차 기반, 주의 기반 접근법을 포함한 GNN 설명 기법을 분석하여 모델의 투명성 향상.
• 그래프 학습 환경에서의 기밀 위협을 분석: 멤버십 추론, 속성 추론, 모델 추출 공격.
• 기울기 및 임bedding 보호를 위한 차등적 개인정보 보호(DP), 연합 GNN 학습에서 증명 가능한 보안을 제공하는 보안 다자간 계산(MPC)을 포함한 기밀 보장 기법 평가.
• DP 기반 기법의 유틸리티 대비 기밀 보장 간의 상충 관계와 MPC 기반 접근법의 효율성 및 보안 간의 상충 관계 비교.

실험 결과

연구 질문

• RQ1 어떻게 그래프 신경망을 적대적 공격, 데이터 노이즈, 분포 이탈에 대해 강건하게 만들 수 있는가?
• RQ2 GNN 예측의 충실하고 인간이 이해할 수 있는 설명을 가능하게 하는 기법은 무엇인가?
• RQ3 그래프 학습에서 주요 기밀 위협은 무엇이며, 멤버십 공격 및 모델 추출 공격를 포함하는가?
• RQ4 차등적 개인정보 보호(DP)와 보안 다자간 계산(MPC)은 GNN에서 모델 및 데이터 기밀 보호에 어떻게 비교되는가?
• RQ5 신뢰할 수 있고, 강건하며, 기밀 보장 기반의 그래프 학습 시스템을 구축하는 데 있어 핵심적인 열려 있는 과제는 무엇인가?

주요 결과

• 적대적 공격은 GNN 성능을 크게 악화시키며, 그래프 오토에인코더, 데이터 정제, 아키텍처 수정을 통해 강건성을 향상시킬 수 있다.
• 기울기 기반 및 편차 기반 접근법과 같은 설명 기법은 영향력 있는 노드와 엣지를 식별하여 모델의 투명성 향상에 기여한다.
• 멤버십 추론 공격는 공개된 임베딩과 블랙박스 액세스를 통해 민감한 그래프 성질, 구조, 부분 그래프를 재구성할 수 있다.
• 모델 추출 공격는 공격자가 노드 속성과 연결을 확보한 경우, 재구성된 그래프와 서rogate 모델을 사용하여 GNN의 행동을 성공적으로 클론할 수 있다.
• 차등적 개인정보 보호는 공식적인 기밀 보장 보장을 제공하지만, 노이즈 주입으로 인해 모델 유틸리티가 감소하는 경향이 있다.
• 보안 다자간 계산은 최소한의 유틸리티 손실로 증명 가능한 기밀 보장을 제공하지만, GNN에서 비선형 연산에 특히 높은 계산 오버헤드를 유발한다.