[논문 리뷰] Imputation under Differential Privacy

Soumojit Das, Jorg Dreschler외 2명|arXiv (Cornell University)|2022. 06. 30.

Privacy-Preserving Technologies in Data인용 수 4

한 줄 요약

이 논문은 미분적 보안(DP)과 데이터 보정 간의 상호작용을 조사하며, 누락된 값으로 인해 민감도가 증가함에 따라 보정된 데이터에 DP를 난처하게 적용할 경우 개인정보 보호 수준이 심각하게 악화될 수 있음을 보여준다. 본 논문은 보정 단계와 분석 단계 모두에서 개인정보 보호를 적용하는 이중 단계 DP 접근법을 제안하며, 이는 개인정보 보호 보장을 유지하고 노이즈를 감소시켜 고정된 개인정보 보호 예산 하에서 평균 추정의 유효성을 향상시킴을 입증한다.

ABSTRACT

The literature on differential privacy almost invariably assumes that the data to be analyzed are fully observed. In most practical applications this is an unrealistic assumption. A popular strategy to address this problem is imputation, in which missing values are replaced by estimated values given the observed data. In this paper we evaluate various approaches to answering queries on an imputed dataset in a differentially private manner, as well as discuss trade-offs as to where along the pipeline privacy is considered. We show that if imputation is done without consideration to privacy, the sensitivity of certain queries can increase linearly with the number of incomplete records. On the other hand, for a general class of imputation strategies, these worst case scenarios can be greatly reduced by ensuring privacy already during the imputation stage. We use a simulated dataset to demonstrate these results across a number of imputation schemes (both private and non-private) and examine their impact on the utility of a private query on the data.

연구 동기 및 목표

• 미분적 보안이 누락된 데이터가 존재할 경우 보정과 어떻게 상호작용하는지 조사하기 위해.
• 보정 이후 분석 단계에서만 DP를 적용할 경우 발생할 수 있는 개인정보 유출 위험을 규명하기 위해.
• 보정 및 분석 단계 모두에서 미분적 보안을 보장하는 방법을 제안하여 강력한 개인정보 보호 보장을 유지하기 위해.
• 고정된 개인정보 보호 예산 하에서 누락된 데이터를 다루는 다양한 전략의 유효성 상충 관계를 평가하기 위해.
• 개인정보 보존 보정이 더 정확하고 편향이 적은 쿼리 결과를 도출할 수 있음을 입증하기 위해.

제안 방법

• 저자들은 보정을 관측된 값이 그대로 유지되는 완전히 관측된 데이터셋으로 매핑하는 함수 ι로 모델링한다.
• 그룹 개인정보 보호를 사용하여 이론적 경계를 설정하며, 이론적으로 이웃하는 데이터셋은 보정 후 최대 n_mis + 1개의 항목에서 다를 수 있음을 보여주며, 이는 민감도를 증가시킨다.
• 이중 단계 DP 메커니즘을 제안한다: 첫째, ε₁-미분적 보안 방법을 사용해 보정 모델의 매개변수를 추정하고, 둘째, 보정된 데이터에 대해 ε₂-미분적 보안 쿼리 메커니즘을 적용한다.
• 순차적 조합 정리를 적용하여 전체 메커니즘이 (ε₁ + ε₂)-DP임을 보여주며, 종단 간 개인정보 보장을 보장한다.
• 세 가지 전략을 구현하고 비교한다: 가용 사례 분석, 분석 단계에서만 DP 적용, 보정 및 분석 단계에서 모두 DP 적용.
• 실험은 OLS 회귀 보정을 시뮬레이션하고 라플라스 메커니즘을 사용해 평균 쿼리에 대해 비교하며, ε = 1 조건 하에서 편향과 분산을 전략 간 비교한다.

실험 결과

연구 질문

• RQ1 보정 이후 분석 단계에서만 미분적 보안을 적용할 경우 개인정보 유출 위험은 무엇인가?
• RQ2 누락된 값의 수가 보정된 데이터셋에서 민감도와 개인정보 보호 예산에 어떻게 영향을 미치는가?
• RQ3 보정 단계에서 개인정보 보안을 시행하면 전체 개인정보 보호 수준과 유효성 향상에 기여할 수 있는가?
• RQ4 보정과 분석 단계 간 개인정보 보호 예산 할당 방식의 선택이 쿼리 결과 정확성에 어떤 영향을 미치는가?
• RQ5 고정된 개인정보 보호 예산 하에서 누락된 데이터를 다루는 다양한 전략에 대해 평균 추정의 상대적 편향과 분산은 어떻게 되는가?

주요 결과

• 보정 이후 분석 단계에서만 DP를 적용할 경우, 누락된 값의 수가 많아질수록 쿼리의 민감도가 증가함에 따라 개인정보 보호 수준이 악화될 수 있다.
• 보정으로 인한 최악의 개인정보 유출는 e^(n_mis + 1)ε로 제한되며, 많은 값이 누락된 경우 상당한 수준이 될 수 있다.
• 개인정보 보장 모델 매개변수 추정과 이후 개인정보 보장 쿼리 메커니즘을 적용함으로써 (ε₁ + ε₂)-DP를 확보할 수 있으며, 공식적인 개인정보 보장 보장을 유지한다.
• 시뮬레이션 결과, 가용 사례 분석은 평균 추정치에 상당한 편향을 유발하는 반면, 두 보정 전략 모두 편향이 없는 결과를 도출한다.
• 이중 단계 DP 접근법(보정 및 분석 단계 모두에서 개인정보 보장 적용)은 분석 단계에서만 DP를 적용하는 것보다 훨씬 낮은 불확실성(더 좁은 신뢰구간)을 제공한다.
• 동일한 개인정보 보호 예산 하에서 이중 단계 방법은 더 높은 유효성을 달성하며, 이는 초기 개인정보 보장 시행이 정확성 향상에 기여함을 보여준다.