[논문 리뷰] A Random Matrix Approach to Differential Privacy and Structure Preserved Social Network Graph Publishing

Faraz Ahmed, Rong Jin외 1명|arXiv (Cornell University)|2013. 07. 01.

Privacy-Preserving Technologies in Data참고 문헌 42인용 수 19

한 줄 요약

이 논문은 이론적 스펙트럼 구조를 유지하기 위해 인cidency 행렬을 노이즈를 추가하기 전에 낮은 차원 공간으로 투영하는 랜덤 매트릭스 기반 접근법을 제안한다. 이 방법은 강력한 차별적 프라이버시 보장을 위해 랜덤 프로젝션과 노이즈 주입을 활용하며, 고유값 기반 분석을 위한 높은 유틸리티를 달성한다. 특히 노이즈 분산 σ=1일 때에도 상위 影향력 있는 노드의 80%를 복구하고, 클러스터링 품질(NMI ≥ 0.74)을 유지한다.

ABSTRACT

Online social networks are being increasingly used for analyzing various societal phenomena such as epidemiology, information dissemination, marketing and sentiment flow. Popular analysis techniques such as clustering and influential node analysis, require the computation of eigenvectors of the real graph's adjacency matrix. Recent de-anonymization attacks on Netflix and AOL datasets show that an open access to such graphs pose privacy threats. Among the various privacy preserving models, Differential privacy provides the strongest privacy guarantees. In this paper we propose a privacy preserving mechanism for publishing social network graph data, which satisfies differential privacy guarantees by utilizing a combination of theory of random matrix and that of differential privacy. The key idea is to project each row of an adjacency matrix to a low dimensional space using the random projection approach and then perturb the projected matrix with random noise. We show that as compared to existing approaches for differential private approximation of eigenvectors, our approach is computationally efficient, preserves the utility and satisfies differential privacy. We evaluate our approach on social network graphs of Facebook, Live Journal and Pokec. The results show that even for high values of noise variance sigma=1 the clustering quality given by normalized mutual information gain is as low as 0.74. For influential node discovery, the propose approach is able to correctly recover 80 of the most influential nodes. We also compare our results with an approach presented in [43], which directly perturbs the eigenvector of the original data by a Laplacian noise. The results show that this approach requires a large random perturbation in order to preserve the differential privacy, which leads to a poor estimation of eigenvectors for large social networks.

연구 동기 및 목표

• 고유값 기반 분석을 위한 사회망 그래프 공개에서 프라이버시와 유틸리티 간의 갈등을 해결하기 위해.
• 완전한 밀도 행렬을 저장하거나 공개하지 않고도 인cidency 행렬의 스펙트럼 구조를 유지하는 차별적 프라이버시 메커니즘을 개발하기 위해.
• 기존의 전체 인cidency 행렬이나 고유벡터를 직접 흐리게 하는 방법에 비해 계산 및 저장 비용을 줄이기 위해.
• 강력한 프라이버시 보장을 확보하면서도 클러스터링 및 영향력 있는 노드 탐지와 같은 후속 작업에서 높은 정확도를 유지하기 위해.
• 실제 그래프(Facebook, LiveJournal, Pokec)를 대상으로 현실적인 노이즈 수준에서 방법을 평가하기 위해.

제안 방법

• 기존 인cidency 행렬 A를 랜덤 프로젝션 매트릭스 P를 사용하여 낮은 차원 공간으로 투영함으로써 차원을 축소하고 계산 비용을 절감한다.
• 투영된 행렬에 가우시안 노이즈를 주입하여 (ε,δ)-차별적 프라이버시를 만족시키며, 랜덤 매트릭스의 농도 성질을 활용한다.
• 완전한 인cidency 행렬 대신 노이즈가 주입된 저차원 행렬을 공개함으로써 저장 및 통신 오버헤드를 최소화한다.
• 후속 분석을 위해 노이즈가 주입된 행렬의 고유벡터를 사용하여 원래 그래프의 상위-k 스펙트럼 성분을 유지한다.
• 랜덤 매트릭스 이론을 활용하여 노이즈 주입 하에 원래 행렬의 고유값 스펙트럼이 잘 근사됨을 보장한다.
• 완전한 n×n 인cidency 행렬이나 그 고유벡터를 직접 흐리게 하지 않아 오차 전파를 줄이고 유틸리티를 향상시킨다.

실험 결과

연구 질문

• RQ1 차별적 프라이버시 제약 하에서 랜덤 매트릭스 투영 접근법이 사회망 그래프의 스펙트럼 구조를 유지할 수 있는가?
• RQ2 유명한 노드 탐지에 있어 제안된 방법이 직접 고유벡터 흐림(LNPP)과 비교해 어떤 유틸리티를 보이는가?
• RQ3 고노이즈 분산 하에서 정규화된 상호정보량(NMI)으로 측정된 클러스터링 품질을 어느 정도 유지하는가?
• RQ4 기존의 전체 행렬이나 고유벡터를 흐리게 하는 방법에 비해 이 방법이 프라이버시와 유틸리티의 균형을 더 잘 달성하는가?
• RQ5 다양한 크기와 위상 구조를 가진 실생활 사회망(Facebook, LiveJournal, Pokec)에서 이 방법은 얼마나 강건한가?

주요 결과

• 고유값 기반 분석에서 노이즈 분산 σ=1일 때도 정규화된 상호정보량(NMI)이 최소 0.74를 유지하여 공동체 구조가 잘 보존됨을 나타낸다.
• 유명한 노드 탐지에서, 모든 평가 데이터셋에서 상위 순위의 영향력 있는 노드의 80%를 성공적으로 복구하며, 기준선 방법보다 뚜렷이 뛰어나다.
• 기준선인 LNPP 방법 대비 PCC 점수 추정의 평균 제곱오차(MSE)를 최대 100배까지 감소시켜 고유벡터 근사에서 뛰어난 정확도를 보여준다.
• σ=1에서도 높은 유틸리티를 유지하며, Facebook(k=2)의 경우 n×MSE 값이 최소 2.6×10⁻²⁶이고, 더 큰 k에 대해서는 0.02 이하로 유지되어 왜곡이 최소화됨을 나타낸다.
• 모든 경우에서 LNPP 기준선을 능가하며, 동일 조건에서 LNPP는 상위 영향력 있는 노드의 1% 이하만 유지하지 못함을 보여준다.
• 저차원 투영을 통해 전체 행렬 흐림의 O(n²) 저장 및 계산 비용을 피함으로써 효율적인 확장성을 확보한다.