[논문 리뷰] Utility-Optimized Local Differential Privacy Mechanisms for Distribution Estimation

Takao Murakami, Yusuke Kawamoto|arXiv (Cornell University)|2018. 07. 30.

Privacy-Preserving Technologies in Data참고 문헌 57인용 수 16

한 줄 요약

이 논문은 민감한 데이터와 비민감한 데이터를 다르게 취급함으로써 국소적 차별적 프라이버시(LDP)에서 데이터 유용성을 향상시키는 새로운 프레임워크인 유틸리티 최적화 국소적 차별적 프라이버시(ULDP)를 제안한다. 민감한 값에는 최소한의 노이즈만 적용하고 비민감한 데이터는 높은 정밀도로 유지함으로써, 유틸리티 최적화 랜덤라이즈드 리스폰스 및 의미 태그를 사용한 개인화된 ULDP와 같은 ULDP 메커니즘은 표준 LDP보다 유의미하게 높은 정확도를 달성하며, 대부분의 데이터가 비민감한 경우 저프라이버시 영역에서 비프라이버시 성능에 가까워진다.

ABSTRACT

LDP (Local Differential Privacy) has been widely studied to estimate statistics of personal data (e.g., distribution underlying the data) while protecting users' privacy. Although LDP does not require a trusted third party, it regards all personal data equally sensitive, which causes excessive obfuscation hence the loss of utility. In this paper, we introduce the notion of ULDP (Utility-optimized LDP), which provides a privacy guarantee equivalent to LDP only for sensitive data. We first consider the setting where all users use the same obfuscation mechanism, and propose two mechanisms providing ULDP: utility-optimized randomized response and utility-optimized RAPPOR. We then consider the setting where the distinction between sensitive and non-sensitive data can be different from user to user. For this setting, we propose a personalized ULDP mechanism with semantic tags to estimate the distribution of personal data with high utility while keeping secret what is sensitive for each user. We show theoretically and experimentally that our mechanisms provide much higher utility than the existing LDP mechanisms when there are a lot of non-sensitive data. We also show that when most of the data are non-sensitive, our mechanisms even provide almost the same utility as non-private mechanisms in the low privacy regime.

연구 동기 및 목표

• 표준 국소적 차별적 프라이버시(LDP)가 민감도에 관계없이 모든 데이터에 동일한 노이즈를 적용함으로써 과도한 유용성 손실을 초래하는 비효율성 문제를 해결하기 위함.
• 민감한 데이터에 대해서만 표준 LDP와 동일한 프라이버시 보장을 제공하면서도 비민감한 데이터에 대한 노이즈를 최소화함으로써 데이터 유용성을 향상시키는 프라이버시 보존 메커니즘 설계.
• 사용자가 자신의 민감한 데이터를 정의할 수 있도록 허용함으로써 개인화된 오브스큐레이션을 가능하게 하여 개인 간 이질적인 프라이버시 선호도를 지원함.
• 이론적 및 실증적으로 ULDP 메커니즘이 기존 LDP 메커니즘보다 유의미하게 높은 유용성을 달성함을 입증함. 특히 대부분의 데이터가 비민감한 경우에 특히 그렇다.

제안 방법

• 민감한 데이터에 대해서만 차별적 프라이버시 보장을 적용하는 LDP의 일반화로, 민감한 값을 특수 기호(예: ⊥)로 매핑하고 비민감한 값을 랜덤 매핑을 통해 처리하는 메커니즘을 정의함.
• 민감한 응답에는 결정적으로 '예'를 보고하고 비민감한 응답에는 확률적으로 보고하는 유틸리티 최적화 랜덤라이즈드 리스폰스 메커니즘을 도입함으로써 추정 정확도 향상.
• RAPPOR를 확장하여 민감한 값만 선택적으로 오브스큐레이션하고 비민감한 데이터에는 최소한의 노이즈만 적용하는 유틸리티 최적화 RAPPOR 메커니즘 개발.
• 의미 태그를 사용하여 사용자가 자신의 민감한 데이터를 정의할 수 있도록 허용하는 개인화된 ULDP 메커니즘 설계.
• 두 단계 추정 프로세스를 적용: 먼저 중간 값(⊥ 포함)의 분포를 추정하고, 그 다음 알려진 또는 추정된 조건부 분포를 조합하여 진짜 데이터 분포를 복원함.
• 유틸리티 측정 지표로 $l_1$ 손실을 사용하고 추정 오차에 대한 이론적 경계를 유도함으로써 오차가 메커니즘의 노이즈와 조건부 분포 추정 정확도에 모두 의존함을 보임.

실험 결과

연구 질문

• RQ1 민감한 데이터와 비민감한 데이터를 다르게 취급함으로써 더 높은 유용성을 달성하는 국소적 차별적 프라이버시 메커니즘을 설계할 수 있는가?
• RQ2 민감한 데이터에 대해 LDP와 동일한 프라이버시 보장을 유지하면서도 비민감한 데이터에 대한 노이즈를 최소화할 수 있는가?
• RQ3 사용자가 서로 다른 데이터 값에 대해 다른 프라이버시 선호도를 가질 경우, 개인화된 오브스큐레이션 메커니즘이 유용성을 향상시킬 수 있는가?
• RQ4 추정 정확도 측면에서 ULDP 메커니즘은 표준 LDP 메커니즘보다 이론적·실증적으로 얼마나 높은 성능 향상을 달성하는가?
• RQ5 저프라이버시 영역에서 ULDP 메커니즘은 비프라이버시 메커니즘의 유용성에 얼마나 가까이 접근할 수 있는가?

주요 결과

• 대부분의 데이터가 비민감한 경우, 비민감한 값에 대한 노이즈 감소로 인해 ULDP 메커니즘이 표준 LDP 메커니즘보다 유의미하게 높은 유용성을 달성한다.
• 저프라이버시 영역(예: ε = 0.1)에서 ULDP 메커니즘은 대부분의 데이터가 비민감한 경우 비프라이버시 메커니즘과 거의 동일한 추정 정확도를 달성한다.
• 의미 태그를 사용한 개인화된 ULDP 메커니즘은 사용자별 프라이버시 선호도를 지원하여 이질적인 데이터 환경에서 유용성을 향상시킨다.
• 이론적 분석 결과, ULDP의 $l_1$ 추정 오차는 중간 분포 추정 오차와 민감한 값의 조건부 분포 추정 오차의 합으로 유계됨을 보여줌.
• 합성 및 실세계 데이터셋(예: 미국 인구 조사)에 대한 실증 평가 결과, ULDP 메커니즘이 표준 LDP 메커니즘보다 평균 제곱오차(MSE) 측면에서 뛰어난 성능을 보이며, 민감한 값의 수가 감소할수록 그 성능 향상이 두드러진다.
• 비민감한 데이터 비율이 높을수록 유용성 향상이 가장 두드러지며, 이는 ULDP가 데이터의 비균일성을 효과적으로 활용하여 유용성을 향상시킨다는 것을 입증한다.