[논문 리뷰] Perturbed Gibbs Samplers for Synthetic Data Release

Yubin Park, Joydeep Ghosh|arXiv (Cornell University)|2013. 12. 18.

Privacy-Preserving Technologies in Data참고 문헌 21인용 수 3

한 줄 요약

이 논문은 특징 해싱과 비모수적 모델링을 사용하여 고차원의 범주형 데이터에 대해 통계적 유틸리티를 유지하면서도 정량적 개인정보 보호를 보장하는 차별적 개인정보 보호 합성 데이터 생성기인 Perturbed Gibbs Sampler (PeGS)를 제안한다. PeGS는 차별적 개인정보 보호와 l-다양성에 기반하여 강력한 개인정보 보호 보장을 달성하며, 캘리포니아 환자 퇴원 데이터에 대한 실증적 검증을 통해 근사적인 왜곡이 최소화된 근사 분포, 조건부 분포 및 회귀 기반 통계를 보여준다.

ABSTRACT

We propose a categorical data synthesizer with a quantifiable disclosure risk. Our algorithm, named Perturbed Gibbs Sampler, can handle high-dimensional categorical data that are often intractable to represent as contingency tables. The algorithm extends a multiple imputation strategy for fully synthetic data by utilizing feature hashing and non-parametric distribution approximations. California Patient Discharge data are used to demonstrate statistical properties of the proposed synthesizing methodology. Marginal and conditional distributions, as well as the coefficients of regression models built on the synthesized data are compared to those obtained from the original data. Intruder scenarios are simulated to evaluate disclosure risks of the synthesized data from multiple angles. Limitations and extensions of the proposed algorithm are also discussed.

연구 동기 및 목표

• 고차원의 범주형 데이터를 연이은 표로 표현하는 데 어려움이 있는 경우에도 확장 가능한 합성 데이터 생성기를 개발하는 것.
• ε-차별적 개인정보 보호와 l-다양성 등을 포함한 공식적인 개인정보 보호 보장으로 정량적 유출 위험을 보장하는 것.
• 마진 및 조건부 분포, 회귀 계수를 유지함으로써 합성 데이터의 높은 통계적 유틸리티를 유지하는 것.
• 모의 공격을 통한 개인정보 보호 위험 평가, 특히 인구 유일성 및 확률적 유출 위험을 포함하는 것.
• 특히 엄격한 개인정보 보호 예산 하에서, 개인정보 보호와 유틸리티 사이의 상호 교환 관계를 탐색하는 것.

제안 방법

• 비모수적 조건부 확률 추정을 사용한 블록 깁스 샘플링 프레임워크를 활용하며, 고차원 데이터에 스케일링하기 위해 특징 해싱을 적용한다.
• 각 변수는 나머지 변수의 동일한 해시 키를 공유하는 행들을 기반으로 한 비모수적 커널 밀도 근사에 기반한 조건부 확률 추정을 통해 조건부로 보간된다.
• ε-차별적 개인정보 보호를 달성하기 위해 라플라스 노이즈를 사용하여 조건부 확률에 펌프팅 단계를 적용한다.
• 알고리즘은 유사한 데이터 행을 그룹화하는 해싱 기반 구조를 사용하여 효율적인 계산을 가능하게 하며, 전체 연이은 표가 필요로 하는 것을 줄인다.
• 다중 보간을 지원하여 합성 데이터셋에 대한 강력한 통계적 추론을 가능하게 한다.
• ε-차별적 개인정보 보호와 l-다양성에 기반한 공식적인 개인정보 보호 분석을 수행하며, 추가적으로 인구 유일성 및 간접 매칭 확률을 통한 위험 평가를 수행한다.

실험 결과

연구 질문

• RQ1 합성 데이터 생성기가 고차원의 범주형 데이터에서 공식적인 개인정보 보호 보장을 확보하면서도 원본 데이터의 통계적 정밀도를 유지할 수 있는가?
• RQ2 특징 해싱과 비모수적 모델링의 사용이 합성 데이터 생성의 유틸리티와 확장성에 어떤 영향을 미치는가?
• RQ3 PeGS의 펌프팅 단계가 기존 방법에 비해 얼마나 효과적으로 유출 위험을 감소시키는가?
• RQ4 다양한 개인정보 보호 파라미터(ε)는 합성 데이터의 유틸리티와 개인정보 보호 간의 균형에 어떤 영향을 미치는가?
• RQ5 제안된 방법이 개인정보 보호 및 원본 데이터와의 통계적 유사성 측면에서 기존 기법들을 초월할 수 있는가?

주요 결과

• Perturbed Gibbs Sampler는 원본 캘리포니아 환자 퇴원 데이터셋과 비교해 마진 및 조건부 분포에 대해 최소한의 왜곡을 보이며 합성 데이터를 성공적으로 생성하였다.
• 합성 데이터 기반으로 추정된 회귀 계수는 원본 데이터의 회귀 계수와 매우 유사하여 강력한 통계적 유틸리티를 입증하였다.
• 알고리즘이 인구 유일성을 증가시켜, k-익명성 또는 l-다양성 방법이 유일성을 감소시키는 것과 대조적으로 핵심적인 차별점이 되었다.
• 낮은 ε 값은 분포 비교에서 더 높은 절대 오차를 초래하였으며, 이는 ε가 개인정보 보호-유틸리티 균형 측정에 의미 있는 척도임을 뒷받침한다.
• ε-차별적 개인정보 보호와 l-다양성 하에서 강력한 개인정보 보호 보장을 달성하였으며, 모의 공격 결과 기반으로 기록 재식별 성공률이 낮았다.
• 해싱 메커니즘이 계산적 효율성 외에도 개인정보 보호에 기여하지만, 향후 연구에서는 해싱에 대한 보다 탴밀한 공식적 개인정보 보호 분석이 필요하다.