[논문 리뷰] Toward Evaluating Re-identification Risks in the Local Privacy Model

Takao Murakami, Kenta Takahashi|arXiv (Cornell University)|2020. 10. 16.

Privacy-Preserving Technologies in Data참고 문헌 77인용 수 10

한 줄 요약

이 논문은 국지적 차별적 비밀유지(LDP) 모델에서 재식별 위험을 평가하기 위한 새로운 지표인 PIE(Personal Information Entropy)를 소개한다. PIE는 공격자가 가공된 데이터에서 사용자를 재식별하려는 시도 시 발생할 수 있는 베이즈 오차 확률의 하한을 제공하며, 분포 추정에서 높은 유용성을 확보하면서도 강력한 재식별 저항성을 보장한다. 이는 LDP가 과도한 노이즈와 유용성 손실을 초래할 수 있는 것과는 대조된다.

ABSTRACT

LDP (Local Differential Privacy) has recently attracted much attention as a metric of data privacy that prevents the inference of personal data from obfuscated data in the local model. However, there are scenarios in which the adversary wants to perform re-identification attacks to link the obfuscated data to users in this model. LDP can cause excessive obfuscation and destroy the utility in these scenarios because it is not designed to directly prevent re-identification. In this paper, we propose a measure of re-identification risks, which we call PIE (Personal Information Entropy). The PIE is designed so that it directly prevents re-identification attacks in the local model. It lower-bounds the lowest possible re-identification error probability (i.e., Bayes error probability) of the adversary. We analyze the relation between LDP and the PIE, and analyze the PIE and utility in distribution estimation for two obfuscation mechanisms providing LDP. Through experiments, we show that when we consider re-identification as a privacy risk, LDP can cause excessive obfuscation and destroy the utility. Then we show that the PIE can be used to guarantee low re-identification risks for the local obfuscation mechanisms while keeping high utility.

연구 동기 및 목표

• 국지적 비밀유지 모델에서 재식별 위험에 대한 공식적인 지표가 부족한 문제를 해결하기 위해.
• 공격자의 배경 지식에 영향을 받지 않는 재식별 오차 최소값을 직접 하한으로 제시하는 새로운 프라이버시 지표인 PIE(Personal Information Entropy)를 제안하기 위해.
• 재식별이 주요 우려사항인 경우 LDP가 과도한 가공을 초래하고 유용성 손실을 야기할 수 있음을 보여주기 위해.
• PIE 프라이버시가 높은 유용성을 확보하면서도 강력한 재식별 저항성을 보장하는 분포 추정에서의 응용 가능성을 보여주기 위해.
• RR 및 GLH와 같은 LDP 메커니즘에서 프라이버시, 유용성, 재식별 위험 간 이론적이고 실증적인 트레이드오프를 분석하기 위해.

제안 방법

• 사용자와 그의 가공된 개인 데이터 간 상호정보량으로서 PIE를 정의하며, 이는 어떤 재식별 공격에 대해서도 베이즈 오차 확률의 하한을 제공한다.
• 공격자의 배경 지식에 관계없이 PIE를 상한으로 제한하는 평균 케이스 프라이버시 지표로 PIE 프라이버시를 제안한다.
• 두 가지 LDP 메커니즘인 랜덤라이즈드 리스폰스(RR)와 가우시안 로케이션 해싱(GLH)을 대상으로 PIE를 적용한다.
• 임계값 설정을 통한 실증적 추정(emp+thr)을 활용하여 분포 추정 작업에서의 유용성을 향상시킨다.
• 다양한 프라이버시 파라미터(예: ε, g)에서 프라이버시(PIE)와 유용성(l₂ 손실) 간의 트레이드오프를 분석한다.
• 큰 α 값을 갖는 레니 지수를 활용하여 PIE 프라이버시를 악조건 기반의 개념으로 확장하며, 향후 연구 방향을 제시한다.

실험 결과

연구 질문

• RQ1 공격자의 배경 지식에 영향을 받지 않는 국지 모델에서 재식별 위험을 직접 평가할 수 있는 프라이버시 지표를 개발할 수 있는가?
• RQ2 재식별이 주요 위협인 경우, LDP의 불변성 중심 접근 방식이 유용성에 어떤 영향을 미치는가?
• RQ3 PIE를 활용하여 분포 추정에서 높은 유용성을 유지하면서도 낮은 재식별 오차를 보장할 수 있는가?
• RQ4 α-상호정보량을 활용해 최악의 경우 프라이버시로 확장했을 때 PIE의 이론적 성질은 어떻게 변화하는가?
• RQ5 가공 메커니즘의 파라미터(예: GLH의 g, RR의 ε)가 PIE 기반에서 프라이버시와 유용성의 균형에 어떤 영향을 미치는가?

주요 결과

• LDP에서 ε=10을 사용할 경우 상위 20개 POI 분포 추정에서 상대 오차가 1.05에 이르며, 이는 최소한의 프라이버시 보장을 제공함에도 불구하고 심각한 유용성 손실을 야기한다.
• LDP 하에서 RR 메커니즘은 l₂ 손실을 10⁻⁶로 줄이기 위해 ε>12 가 필요하지만, 그마저도 강력한 프라이버시를 보장하지 못한다.
• PIE 프라이버시 하에서는 동일한 작업에서 재식별 오차 확률을 0.92 초과로 보장하면서도 상대 오차는 뿐만 아니라 0.10에 불과한 높은 유용성을 확보할 수 있다.
• GLH 메커니즘에서 g 값이 클수록 l₂ 손실이 감소하고 유용성이 향상되며, 이는 이론적 기대와 일치한다.
• 랜덤 순열을 통한 가명화만으로도 높은 재식별 오차 확률을 보장할 수 있지만, 평균 형태로도 차별적 비밀유지를 보장하지 못한다.
• PIE 지표를 통해 실용적인 트레이드오프를 확보할 수 있다: 강력한 재식별 저항성(βᵤ|ₛ > 0.92)을 확보하면서도 높은 유용성을 유지한다. 반면 LDP는 고 ε 값에서도 유용성을 유지하지 못한다.