[논문 리뷰] Differentially Private Confidence Intervals

Wenxin Du, Canyon Foot외 3명|arXiv (Cornell University)|2020. 01. 07.

Privacy-Preserving Technologies in Data참고 문헌 15인용 수 27

한 줄 요약

이 논문은 정규분포된 데이터의 평균에 대한 신뢰구간을 계산하기 위해, 지수 기반 메커니즘과 라플라스 노이즈를 사용한 분위수 추정을 통해 다양한 비밀성 보장 알고리즘을 제안한다. 실험 결과, 가장 우수한 알고리즘인 SYMQ는 기존 연구 대비 최대 96%까지 구간 너비를 줄였으며, ε=0.1일 때 강력한 비밀성 보장 하에 거의 공개 기준 정확도를 달성한다.

ABSTRACT

Confidence intervals for the population mean of normally distributed data are some of the most standard statistical outputs one might want from a database. In this work we give practical differentially private algorithms for this task. We provide five algorithms and then compare them to each other and to prior work. We give concrete, experimental analysis of their accuracy and find that our algorithms provide much more accurate confidence intervals than prior work. For example, in one setting (with ε = 0.1 and n = 2782) our algorithm yields an interval that is only 1/15th the size of the standard set by prior work.

연구 동기 및 목표

• 정규분포된 데이터의 모집단 평균에 대한 실용적인 비밀성 보장된 신뢰구간을 설계하는 데 있어 열려 있는 문제를 해결하기 위해.
• 기존 이론적 접근 방식은 실용성이 떨어지므로, 비밀성 보장된 신뢰구간의 정확도를 향상시키기 위해.
• 데이터 분포 성질(예: 정규성 등)을 가정함으로써 비밀성 보장은 훼손하지 않으면서도 유효성 향상을 이룰 수 있는지 평가하기 위해.
• 기존 연구를 능가하는 구간 너비와 커버리지 정확도를 확보한 새로운 알고리즘을 개발하고 실험적으로 검증하기 위해.
• 제안된 알고리즘의 공개 가능하고 생산 환경에서 사용 가능한 구현을 제공하기 위해.

제안 방법

• 지수 기반 메커니즘을 활용한 알고리즘(예: EXPQ)을 사용하여 분위수, 특히 중앙값을 비밀리에 추정하며, 이는 정규분포 하에서 평균의 강력한 추정자로 기능한다.
• 대칭 분위수 추정(SYMQ)을 적용하여 데이터 범위 [x_min, x_max]의 선택에 민감도가 낮은 구간을 구성한다.
• 감도와 비밀성 파라미터에 기반한 캘리브레이션된 노이즈를 사용해 표본 평균과 표본 분산에 라플라스 노이즈를 적용하여 비밀리에 추정한다.
• 비밀리에 추정한 분위수와 비밀리에 추정한 분산을 조합하여 (ε,0)-비밀성 보장 하에서 정확한 신뢰구간을 계산한다.
• 시뮬레이션 기반 검증을 통해 다양한 α 수준과 비밀성 예산에서 커버리지 확률을 검증한다.
• 모든 알고리즘을 https://github.com/wxindu/dp-conf-int 에 구현 및 오픈소스화하여 재현성과 실용적 사용을 보장한다.

실험 결과

연구 질문

• RQ1 정규분포된 데이터의 평균에 대한 비밀성 보장된 신뢰구간을 기존 이론적 연구 대비 현저히 향상된 정확도로 구성할 수 있는가?
• RQ2 비밀성 보장은 약화시키지 않고도 비밀리에 알고리즘에 분포 성질(예: 정규성 등)을 활용함으로써 유효성 향상에 기여할 수 있는가?
• RQ3 분위수 기반 비밀리 추정기와 표준 라플라스 기반 메커니즘 기반 추정기 간의 구간 너비와 커버리지 성능은 어떻게 비교되는가?
• RQ4 비밀리에 구간 추정 알고리즘의 성능은 데이터 범위 [x_min, x_max]의 보수적인 선택에 얼마나 민감한가?
• RQ5 강력한 비밀성 제약 하에서도 실생활 통계 분석에 활용 가능한 정확도를 갖춘 비밀리에 구간을 만들 수 있는가?

주요 결과

• 제안된 SYMQ 알고리즘은 ε=0.1, n=2782 조건에서 기존 연구가 생성한 표준 구간 대비 구간 너비가 1/15로 줄어들었다.
• ε=0.1일 때, 최고의 알고리즘이 공개 기준 구간 너비의 2.43배이지만, 기존 연구는 37.10배나 넓어져 비밀성 비용이 96% 감소한 것으로 나타났다.
• 정규분포된 데이터일 경우, EXPQ 분위수 추정 알고리즘이 라플라스 기반 방법보다 평균과 표준편차 추정에 더 정확한 결과를 제공한다.
• SYMQ는 [x_min, x_max]의 보수적인 범위 선택에 매우 강건하여, 데이터 분포의 일부가 잘린 경우에도 뛰어난 성능을 유지한다.
• 작은 표본 크기(n < 100ε)에서는 NOISYMAD가 SYMQ를 능가하지만, 이는 데이터 범위 설정이 더 세밀하게 요구된다.
• 모든 제안된 알고리즘은 다양한 α 수준에서 거의 이상적인 커버리지(약 1−α)를 달성하여 비밀성 보장 하에서 통계적 타당성을 입증한다.