[논문 리뷰] Consistent Spectral Clustering of Network Block Models under Local Differential Privacy

Jonathan Hehir, Aleksandra Slavković외 1명|arXiv (Cornell University)|2021. 05. 26.

Opinion Dynamics and Social Influence참고 문헌 31인용 수 7

한 줄 요약

이 논문은 국소적 미분적 보안(ε-LDP) 하에서 엣지 뒤집기 기반 메커니즘을 사용하여 스토케스틱 블록 모델(SBM)과 디그리-수정 블록 모델(DCBM)에 대해 비밀리에 보장된 스펙트럴 클러스터링 방법을 제안한다. 이는 이론적으로 일致성을 확립하며, 조밀한 네트워크에서는 비사용자 비밀리 보장 방법과 동일한 수렴 속도를 달성하고, 희박한 네트워크에서는 노드의 차수(degree)가 √n를 초과할 경우 약한 일치성을 보인다.

ABSTRACT

The stochastic block model (SBM) and degree-corrected block model (DCBM) are network models often selected as the fundamental setting in which to analyze the theoretical properties of community detection methods. We consider the problem of spectral clustering of SBM and DCBM networks under a local form of edge differential privacy. Using a randomized response privacy mechanism called the edge-flip mechanism, we develop theoretical guarantees for differentially private community detection, demonstrating conditions under which this strong privacy guarantee can be upheld while achieving spectral clustering convergence rates that match the known rates without privacy. We prove the strongest theoretical results are achievable for dense networks (those with node degree linear in the number of nodes), while weak consistency is achievable under mild sparsity (node degree greater than $\sqrt{n}$). We empirically demonstrate our results on a number of network examples.

연구 동기 및 목표

• 국소적 미분적 보안을 사용하여 엣지 수준의 프라이버시를 보장하면서 네트워크 데이터에서 커뮤니티 탐지 문제를 해결한다.
• 이론적으로 탄탄한 국소적 미분적 보안 하에서의 스펙트럴 클러스터링 방법을 개발하여 추정 정확도를 유지한다.
• SBM 및 DCBM에 대해 커뮤니티 탐지에서 프라이버시(ε-DP)와 통계적 효율성 간의 상호작용을 분석한다.
• 프라이버시 제약 조건 하에서 오분류율에 대한 유한 표본 및 점근적 경계를 수립한다.
• 엣지 뒤집기 기반 메커니즘이 특정 네트워크 희박성 조건 하에서 일관된 스펙트럴 클러스터링을 가능하게 함을 보여준다.

제안 방법

• ε-국소적 미분적 보안을 확보하면서 인접행렬의 엣지를 흐린 엣지 뒤집기 기반 메커니즘을 적용한다.
• 엣지 뒤집기 기반 메커니즘의 혼합 분포 표현을 사용하여 프라이버시를 확보하면서도 기대 스펙트럴 임베딩을 유지한다.
• 비밀리에 보장된 인접행렬을 기반으로 작동하는 수정된 스펙트럴 클러스터링 알고리즘을 제안하여 커뮤니티 소속을 추정한다.
• 행렬 편향 이론을 통해 프라이버시 처리된 SBM 및 DCBM 네트워크의 스펙트럴 임베딩에 대한 농도 경계를 유도한다.
• 추정된 스펙트럴 임베딩과 진짜 스펙트럴 임베딩을 정렬하기 위해 직교 행렬을 사용하는 변환을 도입하여 오분류율 분석을 가능하게 한다.
• 추정된 임베딩과 진짜 임베딩 간의 ℓ2 노름 편차를 이용하여 유한 표본 오분류율 경계를 수립한 후 점근적 수렴 속도 분석을 수행한다.

실험 결과

연구 질문

• RQ1 국소적 미분적 보안 하에서 SBM 및 DCBM 네트워크의 스펙트럴 클러스터링이 어떤 조건에서 일관성을 유지할 수 있는가?
• RQ2 엣지 뒤집기 기반 메커니즘이 비사용자 경우와 비교해 스펙트럴 클러스터링의 수렴 속도에 어떤 영향을 미치는가?
• RQ3 국소적 DP 하에서 약한 일관성을 달성하기 위해 네트워크의 어떤 희박성 조건(예: 노드의 차수)이 필요한가?
• RQ4 국소적 DP 보장 하에서도 비사용자 스펙트럴 클러스터링의 이론적 수렴 속도를 달성할 수 있는가?
• RQ5 프라이버시 파라미터 ε가 추정 오차와 커뮤니티 탐지 정확도에 어떤 영향을 미치는가?

주요 결과

• 노드의 차수가 n에 대해 선형인 조밀한 네트워크에서는 제안된 비밀리에 보장된 스펙트럴 클러스터링이 비사용자 스펙트럴 클러스터링과 동일한 수렴 속도를 달성한다.
• 희박한 네트워크에서는 노드의 차수가 √n를 초과할 경우 약한 일관성이 달성되며, 프라이버시에 기인한 노이즈로 인해 수렴 속도가 느려진다.
• 유한 표본 오분류율은 O(k√gε(B)/(a³λB√n))로 경계지어지며, 여기서 gε(B)는 프라이버시에 기인한 오차를 나타내고, λB는 블록 확률 행렬의 스펙트럴 갭이다.
• 엣지 뒤집기 기반 메커니즘은 기대 스펙트럴 임베딩의 구조를 유지하여 후처리 및 직교 변환을 통한 정렬을 통해 일관된 추정을 가능하게 한다.
• 이론적 경계는 조밀한 네트워크에서는 프라이버시 비용이 최소화되고, 희박성 증가에 따라 증가하지만, 노드의 차수에 대한 온건한 조건 하에서는 제어 가능하다.
• 시뮬레이션 및 실세계 네트워크에서의 경험적 검증은 이론적 결과를 확인하며, 다양한 프라이버시 예산 하에서도 견고한 성능을 보여준다.