[논문 리뷰] Adversarial Privacy Preserving Graph Embedding against Inference Attack

Kaiyang Li, Guangchun Luo외 4명|arXiv (Cornell University)|2020. 08. 30.

Privacy-Preserving Technologies in Data참고 문헌 46인용 수 4

한 줄 요약

이 논문은 그래프 임베딩에서 사용자 프라이버시를 유지하기 위해 분리 기법과 적대적 훈련을 통합한 엔드 투 엔드 프레임워크인 Adversarial Privacy Graph Embedding (APGE)을 제안한다. 사전적 속성과 구조적 표현을 분리하고 적대적 보완을 통해, 실제 데이터셋에서 링크 예측 및 노드 분류 작업에서 높은 유틸리티를 유지하면서도 추론 공격 성공률을 크게 감소시킨다.

ABSTRACT

Recently, the surge in popularity of Internet of Things (IoT), mobile devices, social media, etc. has opened up a large source for graph data. Graph embedding has been proved extremely useful to learn low-dimensional feature representations from graph structured data. These feature representations can be used for a variety of prediction tasks from node classification to link prediction. However, existing graph embedding methods do not consider users' privacy to prevent inference attacks. That is, adversaries can infer users' sensitive information by analyzing node representations learned from graph embedding algorithms. In this paper, we propose Adversarial Privacy Graph Embedding (APGE), a graph adversarial training framework that integrates the disentangling and purging mechanisms to remove users' private information from learned node representations. The proposed method preserves the structural information and utility attributes of a graph while concealing users' private attributes from inference attacks. Extensive experiments on real-world graph datasets demonstrate the superior performance of APGE compared to the state-of-the-arts. Our source code can be found at https://github.com/uJ62JHD/Privacy-Preserving-Social-Network-Embedding.

연구 동기 및 목표

• 기존 그래프 임베딩 방법이 사용자 개인 속성에 대한 추론 공격으로부터 보호하지 못하는 심각한 격차를 해결하기 위해.
• 임베딩과 프라이버시 메커니즘을 분리하지 않고도 그래프 컨볼루션 네트워크(GCNs)에 직접적으로 프라이버시 보존 기능을 통합하는 통합 프레임워크를 개발하기 위해.
• 감정, 정치적 견해, 성적 지향성과 같은 민감한 속성을 적대자로부터 효과적으로 숨기면서도 구조적 유틸리티와 분류 정확도를 유지하기 위해.
• 사전 처리나 속성만을 훼손하는 기존 방법의 한계를 극복하기 위해, 잠재 공간에서 미세 조절 가능한 기울기 기반 프라이버시 보호를 가능하게 하기 위해.

제안 방법

• APGE는 개인 속성을 구조적 표현에서 분리하는 분리 모듈을 사용하여 개인 속성과 구조적 표현이 분리된 잠재 공간을 활용한다.
• 노드 임베딩에서 개인 속성을 추론하려는 디스criminator를 포함한 적대적 훈련 파이프라인을 사용하여, 생성기(generator)가 프라이버시를 보존하는 표현을 생성하도록 유도한다.
• 잠재 공간의 차원을 증가시켜 유틸리티를 향상시키면서도 적대적 보완을 통해 프라이버시를 유지하는 확장 레이어를 포함한다.
• 재구성 손실, 분리 손실, 적대적 손실을 균형 잡은 복합 손실 함수를 사용하여 엔드 투 엔드로 모델을 훈련한다.
• 기울기 업데이트를 통해 디스criminator의 정확도를 최소화함으로써 개인 속성 추론을 억제하여, 민감한 정보가 최종 임베딩에 포함되지 않도록 보장한다.
• 실제 사회망 및 IoT 그래프 데이터셋에 적용하여, 추론 공격 성공률과 하류 예측 성능을 통해 프라이버시와 유틸리티를 평가한다.

실험 결과

연구 질문

• RQ1 통합된 그래프 임베딩 프레임워크가 구조적 유틸리티를 유지하면서도 개인 속성을 추론 공격으로부터 효과적으로 보호할 수 있는가?
• RQ2 개인 속성과 구조적 표현의 분리가 임베딩 품질을 떨어뜨리지 않고 프라이버시를 향상시키는 데 어떻게 기여하는가?
• RQ3 적대적 훈련이 학습된 노드 임베딩에서 민감한 속성에 대한 추론 공격 성공률을 어느 정도 감소시키는가?
• RQ4 확장 레이어는 그래프 임베딩에서 프라이버시와 유틸리티 간의 트레이드오프에 어떻게 영향을 미치는가?

주요 결과

• APGE는 정치 성향 및 성별과 같은 민감한 속성에 대한 추론 공격 성공률을 크게 감소시켜 최신 기술보다 뛰어난 성능을 보였다.
• 하류 작업에서 높은 성능을 유지하여 링크 예측 정확도가 비프라이버시 기준선과 유사했으며, 유틸리티 보존 능력이 뛰어났다.
• 제거 실험 결과, 확장 레이어를 제거해도 추론 정확도가 약간 떨어질 뿐이었으며, 이는 임베딩 차원이 감소하더라도 프라이버시 보존이 강건함을 시사한다.
• 분리와 적대적 훈련 요소가 함께 작용하여 프라이버시 보호 능력이 향상되었으며, 다양한 데이터셋에서 추론 공격 정확도가 낮아짐으로써 이를 입증했다.
• 사전 처리나 속성만을 훼손하는 기존 방법보다 APGE가 더 뛰어난 프라이버시-유틸리티 트레이드오프를 달성했다.