[논문 리뷰] Differential Privacy By Sampling

Josh Joy, Mário Gerla|arXiv (Cornell University)|2017. 01. 01.

Privacy-Preserving Technologies in Data참고 문헌 17인용 수 5

한 줄 요약

이 논문은 기존의 흐름 기반 방법과는 달리 랜덤 샘플링을 사용함으로써 일정한 절대 오차와 향상된 프라이버시 보장을 달성하는 새로운 차별적 프라이버시 메커니즘인 Sampling Privacy를 소개한다. 랜덤 응답과 달리, 모집단 크기가 증가함에 따라 추정 오차가 증가하는 문제를 해결하여 안정적인 정확도를 유지하면서도 프라이버시 泄漏를 줄였다. 실제 데이터셋에 대한 평가에서, 기준 방법 대비 최대 4배 낮은 ε를 달성하였다.

ABSTRACT

In this paper we present the Sampling Privacy mechanism for privately releasing personal data. Sampling Privacy is a sampling based privacy mechanism that satisfies differential privacy.

연구 동기 및 목표

• 기존의 랜덤 응답과 같은 차별적 프라이버시 메커니즘의 확장성과 정확성 한계를 해결하고자 하였다. 특히 모집단 크기가 증가함에 따라 증가하는 추정 오차 문제를 해결하고자 하였다.
• 모집단 크기에 관계없이 일정한 절대 오차를 유지하는 분산형 샘플링 기반 접근법을 개발하고자 하였다. 이를 통해 확장 가능한 개인 정보 보호 데이터 공개를 가능하게 하고자 하였다.
• 개인 기여를 더 효과적으로 은폐하기 위해 샘플링을 활용함으로써, 랜덤 응답 대비 프라이버시 泄漏(ε)를 줄이고자 하였다.
• 실제 응용 분야인 건강 데이터 및 이동 추적과 같은 분야에서 데이터 유용성을 유지하면서도 ε-차별적 프라이버시를 만족하는 실용적이고 구현 가능한 메커니즘을 제공하고자 하였다.

제안 방법

• 각 데이터 소유자가 독립적으로 자신의 진짜 답변을 공개할지 여부를 랜덤 샘플링을 통해 결정하는 샘플링 기반 프라이버시 메커니즘을 제안한다. 이때 진실한 공개 확률을 제어하기 위해 두 개의 편향된 동전 뒤집기 방식을 사용한다.
• 프라이버시와 정확성 간의 트레이드오프를 제어하기 위해 샘플링 파라미터(예: 0.45)를 사용하며, 이는 개인 기여가 확률적 선택을 통해 은폐되도록 보장한다.
• 프라이버시 보장 방정정식(식 29)을 사용하여 ε-차별적 프라이버시를 수학적으로 정량화함으로써, 어떤 적대자에 대해서도 증명 가능한 프라이버시 보장을 확보한다.
• privatized 응답을 집계하고 기대 노이즈를 빼며, 샘플링 확률로 정규화함으로써 진짜 카운트를 추정한다. 랜덤 응답과 유사하지만 오차 안정성이 향상되었다.
• 모집단 크기가 증가함에 따라 표준편차가 증가하는 랜덤 응답과는 달리, 다양한 모집단 크기에서 일정한 절대 오차를 유지하도록 메커니즘을 校정하였다.
• 실제 데이터셋(Gowalla 체크인, 유방암 데이터)을 대상으로 평가하여 랜덤 응답 및 기타 기준 방법과의 오차와 프라이버시 泄漏를 비교하였다.

실험 결과

연구 질문

• RQ1 모집단 크기가 증가함에 따라 기존의 랜덤 응답과 달리 샘플링 기반 메커니즘이 일정한 절대 오차를 유지할 수 있는가?
• RQ2 샘플링 기반 프라이버시 처리는 랜덤 응답 대비 프라이버시 泄漏(ε)를 줄이면서도 데이터 유용성을 유지하는가?
• RQ3 다양한 민감한 속성 분포를 가진 실제 세계 데이터셋에서 Sampling Privacy 메커니즘의 성능은 어떻게 스케일링되는가?
• RQ4 중앙 집중형 노이즈 주입에 의존하지 않고 샘플링 기반 메커니즘이 얼마나 효과적으로 개인 기여를 은폐할 수 있는가?

주요 결과

• 모집단이 286명에서 10,000명으로 증가함에 따라 Sampling Privacy는 일정한 절대 오차를 유지하지만, 랜덤 응답은 표본 분산으로 인해 오차가 급격히 증가함을 확인하였다.
• 유방암 데이터셋에서, 동일한 조건에서 Sampling Privacy는 랜덤 응답 대비 최대 4배 낮은 프라이버시 泄漏(ε)를 달성하였으며, 少수 집단의 추정 오차도 크게 감소시켰다.
• 메커니즘의 프라이버시 보장은 식 29를 통해 수학적으로 정량화되었으며, 동일한 샘플링 파라미터를 사용할 경우 랜덤 응답보다 더 날카운 보장을 제공함을 보였다.
• Gowalla 체크인 데이터에 대한 평가 결과, Sampling Privacy는 진짜 카운트가 다양한 지역에서 안정적인 추정 정확도를 유지하는 반면, 랜덤 응답은 고정밀도 설정에서 높은 분산을 보였다.
• 그림 3의 빨간 원 마커는 최적화된 랜덤 응답 파라미터를 사용하더라도, 두 번째 동전 뒤집기 확률의 모든 테스트 값에서 Sampling Privacy가 더 낮은 프라이버시 泄漏를 달성하고 있음을 나타낸다.
• 이 방법은 암 환자나 적육 섭취자와 같은 소수 집단의 응답을 더 넓고 다양한 샘플에 혼합함으로써 효과적으로 보호하며, 재식별 위험을 감소시킨다.