[논문 리뷰] Randomization Resilient To Sensitive Reconstruction

Ke Wang, Chao Han외 1명|arXiv (Cornell University)|2012. 02. 15.

Privacy-Preserving Technologies in Data참고 문헌 21인용 수 3

한 줄 요약

이 논문은 $(\varepsilon,\delta)$-재구성-개인정보보장성이라는 새로운 개인정보보장 정의를 제안한다. 이 정의는 특정 개인의 민감한 속성을 추론하는 미세 재구성 공격에 대해, 그러한 재구성 결과가 높은 오차를 가질 확률이 높아지도록 하여 정확도를 제한함으로써 개인정보 위험을 완화한다. 이 방법은 독립적인 랜덤화 시행 수를 줄여 미세 재구성 공격의 영향을 약화시키면서도, 정확한 집합적 재구성 능력을 유지한다. 실세계 데이터셋을 대상으로 검증된 결과, 개인정보-유용성 트레이드오프가 향상됨을 입증하였다.

ABSTRACT

With the randomization approach, sensitive data items of records are randomized to protect privacy of individuals while allowing the distribution information to be reconstructed for data analysis. In this paper, we distinguish between reconstruction that has potential privacy risk, called micro reconstruction, and reconstruction that does not, called aggregate reconstruction. We show that the former could disclose sensitive information about a target individual, whereas the latter is more useful for data analysis than for privacy breaches. To limit the privacy risk of micro reconstruction, we propose a privacy definition, called (epsilon,delta)-reconstruction-privacy. Intuitively, this privacy notion requires that micro reconstruction has a large error with a large probability. The promise of this approach is that micro reconstruction is more sensitive to the number of independent trials in the randomization process than aggregate reconstruction is; therefore, reducing the number of independent trials helps achieve (epsilon,delta)-reconstruction-privacy while preserving the accuracy of aggregate reconstruction. We present an algorithm based on this idea and evaluate the effectiveness of this approach using real life data sets.

연구 동기 및 목표

• 비민감한 속성과 변형된 데이터를 이용해 특정 개인의 민감한 속성을 추론하는 미세 재구성 공격으로 인한 개인정보 위험을 해결하기 위해.
• 미세 재구성 정확도를 제한하면서도 유용한 집합적 재구성 가능성을 유지할 수 있도록 새로운 개인정보보장 정의인 $(\varepsilon,\delta)$-재구성-개인정보보장성을 체계화하기 위해.
• 독립적인 랜덤화 시행 수를 줄임으로써, 집합적 재구성보다 미세 재구성에 더 큰 영향을 미쳐 개인정보-유용성 트레이드오프를 향상시킬 수 있음을 보여주기 위해.
• 이 통찰에 기반하여 실용적인 알고리즘을 제공함으로써, 분석에 유용한 데이터 유용성을 유지하면서도 타겟팅된 추론 공격에 저항할 수 있도록 하기 위해.

제안 방법

• 미세 재구성(개인정보 위험)과 집합적 재구성(분석에 유용함)을 구분함으로써, 개인정보 보호를 타겟팅할 수 있도록 한다.
• 미세 재구성이 오차가 $\varepsilon$를 초과할 확률이 최소 $1-\delta$ 이상이 되도록 요구하는 $(\varepsilon,\delta)$-재구성-개인정보보장성을 제안한다.
• Chernoff 불등식을 활용하여 尾확률의 상한을 유도하여, 미세 재구성 정확도가 제한됨을 보장한다.
• 독립적인 랜덤화 시행 수를 줄여 미세 재구성 오차를 증가시키되, 집합적 재구성 정확도는 유지한다.
• 최대우도추정법(MLE)을 사용하여 미세 그룹 내 빈도를 추정하고, 관측된 변형된 데이터를 바탕으로 재구성 위험을 평가한다.
• 실세계 데이터셋(EDU-500K 및 OCC-500K)을 사용하여 접근법을 검증하고, 다양한 그룹 크기와 빈도 분포에서 오차율과 개인정보 泄露 정도를 측정하였다.

실험 결과

연구 질문

• RQ1 비민감한 속성이 알려져 있을 경우, 기존의 개인정보보장 정의(예: $\rho_1$-$\rho_2$ 개인정보보장성)는 미세 재구성 공격를 회피할 수 있는가?
• RQ2 미세 재구성 정확도를 특별히 제한하면서도 집합적 재구성 유용성을 유지할 수 있도록 개인정보보장 정의를 어떻게 체계화할 수 있는가?
• RQ3 독립적인 랜덤화 시행 수를 줄이면, 집합적 재구성보다 미세 재구성에 더 크게 영향을 미치는가?
• RQ4 제안된 $(\varepsilon,\delta)$-재구성-개인정보보장성 정의는 실세계 데이터셋에서 개인정보 泄露를 어느 정도 줄일 수 있는가?

주요 결과

• EDU-500K에서 $\lambda=0.1$ 이며 $\varepsilon=0.2$ 인 조건에서, 그룹 2의 74건 중 25건이 미세 재구성 오차가 20%를 초과하여 민감한 속성 추정에 높은 오차가 있음을 나타내었다.
• OCC-500K에서 $\lambda=0.1$ 이며 $\varepsilon=0.2$ 인 조건에서, 그룹 2의 213건 중 28건이 오차가 20%를 초과하여, 제안된 메커니즘 하에서 상당한 미세 재구성 오차가 발생했음을 확인하였다.
• 민감한 속성 빈도가 높은 그룹(예: EDU-500K에서 76–87%)에서는 전체 데이터셋(2.5%)보다 미세 재구성 추정이 훨씬 정확하여 개인정보 위험을 드러내었다.
• $\lambda$를 0.1에서 0.05로 줄임으로써, 미세 재구성 오차가 증가하는 것을 관찰하여, 낮은 노이즈 수준(높은 $\lambda$)이 오차를 증가시켜 개인정보 보호를 향상시킴을 입증하였다.
• 미세 재구성이 심하게 제약을 받는 동안에도 집합적 재구성 정확도가 유지됨을 보여주어, 유리한 개인정보-유용성 트레이드오프를 보였다.
• 미세 재구성 오차가 높은 확률로 큰 값을 가지도록 보장함으로써, 개인정보 유출을 효과적으로 제한하였고, 이는 $(\varepsilon,\delta)$-재구성-개인정보보장성 정의를 충족함을 확인하였다.