[논문 리뷰] Differentially private methods for managing model uncertainty in linear regression models

Víctor Peña, Andrés F. Barrientos|arXiv (Cornell University)|2021. 09. 08.

Privacy-Preserving Technologies in Data참고 문헌 36인용 수 6

한 줄 요약

이 논문은 정규 선형 회귀 모델에서 가설 검정, 모형 평균화, 모형 선택을 위한 차별적 비밀유지 방법을 제안한다. 데이터 분할과 캐시닝, 충분통계량 편향을 사용하여 비밀유지를 보장한다. 이 방법은 渐近적 일致성을 유지하며, 校정된 임계값과 불확실성 정량화를 제공하며, 유한 표본에서의 유틸리티와 희박성에 대한 강건성에 대한 실용적 지침을 제공한다.

ABSTRACT

In this work, we propose differentially private methods for hypothesis testing, model averaging, and model selection for normal linear models. We consider Bayesian methods based on mixtures of $g$-priors and non-Bayesian methods based on likelihood-ratio statistics and information criteria. The procedures are asymptotically consistent and straightforward to implement with existing software. We focus on practical issues such as adjusting critical values so that hypothesis tests have adequate type I error rates and quantifying the uncertainty introduced by the privacy-ensuring mechanisms.

연구 동기 및 목표

• 정규 선형 모형에서 모형 불확실성을 다루기 위한 차별적 비밀유지 절차를 개발한다. 이는 가설 검정, 모형 평균화, 모형 선택을 포함한다.
• 비밀유지되지 않은 대안과 유사한 정규 조건 하에서 제안된 방법의 渐近적 일치성을 확보한다.
• 데이터 분할과 캐시닝으로 인한 편향 등의 실용적 과제를 해결한다.
• 시뮬레이션 기반 校정과 신뢰구간을 통해 비밀유지 메커니즘에 의해 유도된 불확실성을 정량화한다.
• 진짜 모형의 희박성에 따라 임계값 처리된 방법과 처리되지 않은 방법을 선택하는 데 실용적 지침을 제공한다.

제안 방법

• 중첩된 모형 비교를 위한 차별적 비밀유지 검정 통계량을 구성하기 위해 데이터 분할과 캐시닝을 적용한 부분표본 및 집계 기법을 사용한다.
• 충분통계량 편향을 적용하여 편향된 충분통계량의 노이즈 버전을 공개함으로써, 예측 변수의 수에 비례해 제곱수로 증가하는 편향 분산을 줄인다.
• 베이지안 프레임워크에서는 g-우도의 혼합을, 비베이지안 설정에서는 정보 기준(예: AIC, BIC)과 함께 우도비 기반 통계량을 적용한다.
• 귀무가설 하에서 비밀유지된 검정 통계량 분포의 시뮬레이션을 통해 임계값을 校정함으로써 적절한 제1종 오류 비율을 유지한다.
• 반복적인 시뮬레이션에서의 평균 히스토그램을 사용하여 비밀유지에 의해 유도된 불확실성을 정량화하고, 사후 요약 통계량의 신뢰구간을 보고한다.
• 희박성이 예상될 경우, 편향된 충분통계량에 대한 하드 임계값 처리를 후처리로 제안하며, 임계값 처리된 버전과 처리되지 않은 버전을 모두 사용하여 비밀유지 예산을 유지한다.

실험 결과

연구 질문

• RQ1 데이터 분할과 캐시닝이 적용된 상황에서 중첩된 선형 모형에 대한 차별적 비밀유지 가설 검정은 어떻게 구성할 수 있으며, 적절한 제1종 오류 비율을 유지할 수 있는가?
• RQ2 데이터 분할과 캐시닝이 차별적 비밀유지 검정 통계량의 성능에 미치는 영향은 무엇이며, 이로 인한 편향은 어떻게 수정할 수 있는가?
• RQ3 비밀유지 메커니즘에 의해 유도된 불확실성은 어떻게 정량화하고 통계적으로 의미 있는 방식으로 보고할 수 있는가?
• RQ4 어떤 상황에서 임계값 처리된 방법과 처리되지 않은 방법이 더 잘 작동하는가? 이를 실무에서 어떻게 활용할 수 있는가?
• RQ5 차별적 비밀유지 모형 평균화 및 선택 절차는 비밀유지되지 않은 방법과 유사한 정규 조건 하에서 일관성을 유지할 수 있는가?

주요 결과

• 데이터 분할과 캐시닝 이후에도 시뮬레이션 기반 임계값 조정을 통해 차별적 비밀유지 가설 검정은 보정된 제1종 오류 비율을 달성한다.
• 충분통계량 편향의 사용으로 편향 항의 분산이 예측 변수 수에 대해 제곱수로 증가하여 지수적 증가를 방지한다.
• 250회의 시뮬레이션 실행에서의 평균 히스토그램은 비밀유지된 추정치가 비비밀유지 결과를 잘 따라가며, 확산이 증가함으로써 비밀유지에 기인한 불확실성이 나타난다.
• 진짜 모형이 희박할 경우, 임계값 처리된 방법이 처리되지 않은 방법보다 더 우수하며, 대부분의 예측 변수가 활성일 경우 비처리 방법이 더 유리하다.
• 신뢰구간 보고는 비밀유지 메커니즘에 의해 유도된 불확실성을 정량화하는 데 있어 유용한 도구로 밝혀졌다.
• 비밀유지되지 않은 모형 선택과 유사한 정규 조건 하에서 방법은 渐近적 일치성을 유지하며, 장기적 신뢰성을 보장한다.