[논문 리뷰] Privacy-Preserving Graph Neural Network for Node Classification.

Jun Zhou, Chaochao Chen외 5명|arXiv (Cornell University)|2020. 05. 25.

Privacy-Preserving Technologies in Data참고 문헌 51인용 수 26

한 줄 요약

이 논문은 원자료를 공유하지 않고도 데이터 보유자 간에 협업 학습이 가능한 프라이버시 보장 그래프 신경망(PPGNN) 프레임워크를 제안한다. 데이터 보유자와 반신뢰성 있는 서버 간에 계산을 분할함으로써, 기밀 데이터를 현지에 유지하면서도 비기밀 작업은 위탁함으로써, 원자료 기반 표준 GNN과 유사한 성능을 달성한다. 이는 데이터가 여러 당사자 간에 분산되어 있을 경우에도 성립한다.

ABSTRACT

Recently, Graph Neural Network (GNN) has achieved remarkable progresses in various real-world tasks on graph data, consisting of node features and the adjacent information between different nodes. High-performance GNN models always depend on both rich features and complete edge information in graph. However, such information could possibly be isolated by different data holders in practice, which is the so-called data isolation problem. To solve this problem, in this paper, we propose a Privacy-Preserving GNN (PPGNN) learning paradigm for node classification task, which can be generalized to existing GNN models. Specifically, we split the computation graph into two parts. We leave the private data (i.e., features, edges, and labels) related computations on data holders, and delegate the rest of computations to a semi-honest server. We conduct experiments on three benchmarks and the results demonstrate that PPGNN significantly outperforms the GNN models trained on the isolated data and has comparable performance with the traditional GNN trained on the mixed plaintext data.

연구 동기 및 목표

• 그래프 기반 머신러닝에서 특성과 간선이 서로 다른 당사자에게 분산되어 있는 데이터 고립 문제를 해결하기 위해.
• 신뢰할 수 없는 당사자에게 기밀 노드 특성, 간선, 레이블을 폭 드러내지 않고도 협업 노드 분류를 가능하게 하기 위해.
• 기존 GNN 아키텍처와 호환되는 일반화 가능한 프레임워크를 설계하기 위해.
• 학습 중 엄격한 프라이버시 제약 조건 하에서도 높은 모델 성능을 유지하기 위해.

제안 방법

• 계산 그래프를 두 부분으로 분할한다: 기밀 계산은 데이터 보유자 측에서 유지하고, 비기밀 작업은 반신뢰성 있는 서버로 이관한다.
• 노드 특성, 간선, 레이블을 포함한 기밀 데이터는 절대 공유되지 않으며, 중간 표현만 교환된다.
• 감정적인 구성 요소만 분리함으로써 기존 GNN 모델과의 통합을 지원한다.
• 안전한 집계 메커니즘이 서버가 개별 데이터 보유자의 기밀 입력을 전혀 알 수 없도록 보장한다.
• 메시지 전달 및 집계 과정에서의 정보 누출을 최소화함으로써 모델 정확도를 유지한다.
• 일반화 가능하며, 아키텍처 재설계 없이 다양한 GNN 아키텍처에 적용 가능하다.

실험 결과

연구 질문

• RQ1 특성과 간선이 서로 다른 데이터 보유자에게 분산되어 있으며 원자료를 공유하지 않는 조건에서 GNN을 효과적으로 학습시킬 수 있는가?
• RQ2 GNN의 메시지 전달 과정에서 성능 저하 없이 프라이버시를 어떻게 보장할 수 있는가?
• RQ3 프라이버시 보장 GNN이 완전히 가용한 평문 데이터 기반 표준 GNN의 성능에 얼마나 가까이 도달할 수 있는가?
• RQ4 제안된 프레임워크는 다양한 GNN 아키텍처에 일반화될 수 있는가?

주요 결과

• PPGNN는 세 가지 벤치마크 데이터셋에서 원자료 기반 표준 GNN과 유사한 성능을 달성한다.
• 특성과 간선을 공유하지 않는 고립된 데이터에서 학습된 GNN보다 모델이 현저히 뛰어난 성능을 보인다.
• 기밀 정보 泄露를 효과적으로 방지하면서도 높은 예측 정확도를 유지하는 프라이버시 보장 설계가 성공했다.
• 기존 GNN 모델에 잘 일반화되어 있으며, 재학습이나 아키텍처 변경 없이도 안전한 협업을 가능하게 한다.
• 보안 계산이 모델 유용성 손실 없이 GNN 학습에 효과적으로 통합될 수 있음을 확인했다.