[논문 리뷰] Statistical Properties of Sanitized Results from Differentially Private Laplace Mechanisms with Noninformative Bounding

Fang Liu|arXiv (Cornell University)|2016. 07. 28.

Privacy-Preserving Technologies in Data인용 수 4

한 줄 요약

이 논문은 유계 통계의 비정보성 절단 및 경계 확장 절단(BIT) 메커니즘을 제안하며, 라플라스 메커니즘을 사용한 차별적 비공식적 정제에 적용한다. 이 메커니즘의 편향, 일致성 및 통계적 타당성에 미치는 영향을 이론적·실험적으로 평가하여, 비정보성 경계 설정이 편향을 유도하지 않으면서도 개인정보 보호를 유지함을 보여주며, BIT 메커니즘은 개인정보 보호 제약 하에 경계를 확장함으로써 정확도를 향상시킴을 밝힌다.

ABSTRACT

Protection of individual privacy is a common concern when releasing and sharing data and information. Differential privacy (DP) formalizes privacy in probabilistic terms without making assumptions about the background knowledge of data intruders, and thus provides a robust concept for privacy protection. Practical applications of DP involve development of differentially private mechanisms to generate sanitized results at a pre-specified privacy budget. In the sanitization of bounded statistics such as proportions and correlation coefficients, the bounding constraints will need to be incorporated in the differentially private mechanisms. There has been little work in examining the consequences of the incorporation of of bounding constraints on the accuracy of sanitized results from a differentially private mechanism. In this paper, we define noninformative and informative bounding procedures in the sanitization of bounded data, depending on whether a bounding procedure itself leaks original information or not. We formalize the differentially private truncated and boundary inflated truncated (BIT) mechanisms that release bounded statistics. The impacts of the noninformative truncated and BIT mechanisms on the statistical validity of sanitized statistics, including bias and consistency, in the framework of the Laplace mechanism are evaluated both theoretically and empirically via simulation studies.

연구 동기 및 목표

• 경계 제약 조건이 차별적 비공식적 정제 결과의 정확도에 미치는 영향에 대한 연구 부족을 보완하기 위해.
• 유계 통계의 차별적 비공식성에서 비정보성 및 정보성 경계 설정 절차를 체계화하기 위해.
• 라플라스 메커니즘 프레임워크 하에서 절단 및 BIT 메커니즘의 통계적 타당성—특히 편향과 일치성—을 평가하기 위해.
• 비정보성 절단 및 BIT 메커니즘의 개인정보 보호 유지와 통계적 신뢰성 유지를 고려한 성능 비교를 위해.
• 유계 데이터 정제에서 개인정보, 정확도, 통계적 타당성 간의 상충 관계를 이론적 및 실험적으로 분석하기 위해.

제안 방법

• 원본 데이터 값을 泄露하지 않으면서도 정제된 출력에 경계를 강제하는 차별적 비공식적 절단 라플라스 메커니즘을 제안한다.
• 꼬리 부분을 확장하여 경계 근처 정확도를 향상시키는 경계 확장 절단(BIT) 메커니즘을 도입한다.
• 비정보성 경계 설정을 원래 데이터 값이 드러나지 않는 절차로 정의하여 개인정보 보호를 보장한다.
• 라플라스 메커니즘 프레임워크 하에서 절단 및 BIT 메커니즘의 편향과 일치성에 대한 이론적 표현을 유도한다.
• 시뮬레이션 연구를 통해 정제된 통계의 편향, 분산 및 일치성에 대한 이론적 결과를 실험적으로 검증한다.
• 다양한 개인정보 예산과 데이터 경계에서 두 메커니즘의 통계적 성질을 비교한다.

실험 결과

연구 질문

• RQ1 비정보성 경계 설정은 차별적 비공식적 정제 결과의 통계적 편향과 일치성에 어떤 영향을 미치는가?
• RQ2 BIT 메커니즘에서의 경계 확장은 차별적 비공식성 하에서 유계 통계의 정확도에 어떤 영향을 미치는가?
• RQ3 절단 및 BIT 메커니즘은 개인정보-유용성 상충 관계와 통계적 타당성 측면에서 어떻게 비교 가능한가?
• RQ4 비정보성 경계 설정은 어떤 조건에서 원래 데이터 유출 없이 개인정보 보호를 유지하는가?
• RQ5 편향과 일치성의 이론적 성질이 실험적 시뮬레이션 조건 하에서도 어느 정도 유지되는가?

주요 결과

• 비정보성 경계 설정 절차는 원래 데이터 값을 泄露하지 않으며, 개인정보 보호를 유지하면서도 통계적 타당성을 유지한다.
• 비밀 예산이 충분히 클 경우 절단 라플라스 메커니즘은 편향이 극히 미미하며, 정제된 통계의 일치성을 보장한다.
• BIT 메커니즘은 표준 절단 메커니즘 대비 유계 통계의 경계 근처에서 편향을 감소시킨다.
• 실험적 시뮬레이션은 표본 크기가 증가할수록 두 메커니즘이 일치성을 유지함을 확인하여 장기적 신뢰성을 뒷받침한다.
• 특히 경계가 엄격하고 개인정보 예산이 낮은 환경에서 BIT 메커니즘이 절단 메커니즘보다 더 높은 정확도를 달성한다.
• 이론적 분석과 시뮬레이션 결과가 일치하여, 제안된 메커니즘이 다양한 개인정보 예산 하에서도 강건함을 입증한다.