[논문 리뷰] Formal Privacy for Functional Data with Gaussian Perturbations

Ardalan Mirshani, Matthew Reimherr외 1명|arXiv (Cornell University)|2017. 11. 17.

Privacy-Preserving Technologies in Data참고 문헌 48인용 수 7

한 줄 요약

이 논문은 분리 가능한 바나흐 공간에서 가우시안 편향을 활용하여 기능 데이터로의 차별적 프라이버시를 확장한다. 이는 전체 함수 해제, 비선형 함수성, 경로 수준 추정과 같은 복잡한 요약 정보의 프라이버시를 가능하게 한다. 주요 기여는 캐머런-마르틴 밀도를 사용한 공식적 프레임워크로, 프라이버시 한계를 설정하면서도 중요한 상충관계를 드러낸다: 약간의 과도함수화는 노이즈를 감소시켜 프라이버시를 해치지 않으면서도 유용성을 크게 향상시킨다.

ABSTRACT

Motivated by the rapid rise in statistical tools in Functional Data Analysis, we consider the Gaussian mechanism for achieving differential privacy with parameter estimates taking values in a, potentially infinite-dimensional, separable Banach space. Using classic results from probability theory, we show how densities over function spaces can be utilized to achieve the desired differential privacy bounds. This extends prior results of Hall et al (2013) to a much broader class of statistical estimates and summaries, including "path level" summaries, nonlinear functionals, and full function releases. By focusing on Banach spaces, we provide a deeper picture of the challenges for privacy with complex data, especially the role regularization plays in balancing utility and privacy. Using an application to penalized smoothing, we explicitly highlight this balance in the context of mean function estimation. Simulations and an application to diffusion tensor imaging are briefly presented, with extensive additions included in a supplement.

연구 동기 및 목표

• 지점별 함수 평가를 넘어서 노름, 도함수, 전체 함수 해제와 같은 복잡한 기능 요약 정보로의 차별적 프라이버시를 확장하는 것.
• 기능 밀도를 사용하여 무한차원 분리 가능한 바나흐 공간에서 통계적 추정치의 프라이버시 보장을 공식화하는 것.
• 정규화와 프라이버시의 상호작용을 조사하여, 과도함수화가 노이즈를 감소시키면서도 프라이버시를 유지할 수 있음을 보여주는 것.
• 벌점 스무딩을 통한 사전 평균 함수 추정의 계산 가능 메커니즘을 개발하는 것.
• 시뮬레이션과 확산 텐서 영상 응용을 통해 프레임워크의 실용적 유용성을 입증하는 것.

제안 방법

• 분리 가능한 바나흐 공간에서 평균이 0인 가우시안 노이즈를 사용한 가우시안 메커니즘을 적용하여 \/(\epsilon,\delta)\-차별적 프라이버시를 달성한다.
• 캐머런-마르틴 정리를 적용하여 함수 공간 상의 밀도를 유도함으로써, 무한차원 환경에서 엄밀한 프라이버시 한계를 확보한다.
• 노이즈와 요약 간의 '호환성' 개념을 도입하여, 주어진 기능 요약에 대해 DP를 달성할 수 있는지 여부를 판단한다.
• 편향, 분산, 프라이버시를 균형 잡기 위해 펜alty 파라미터 $\phi$와 범위 파라미터 $\rho$를 사용한 벌점 스무딩을 활용한다.
• 프라이버시 제약 하에 하이퍼파rameter를 튜닝하기 위해 몬테카를로 추정치의 평균을 사용하는 사전 교차검증(Private Cross Validation, PCV)을 개발한다.
• 핵심 기반 공분산 함수(Gaussian, Matérn, 지수형)를 사용하여 기저 함수 공간을 모델링하고, 프라이버시 강화 추정치를 생성한다.

실험 결과

연구 질문

• RQ1 가우시안 메커니즘이 전체 함수 해제 및 경로 수준 요약과 같은 광범위한 기능 요약에 대해 $(\epsilon,\delta)$-차별적 프라이버시를 달성할 수 있는가?
• RQ2 차별적 프라이버시를 달성하기 위해 노이즈 분포가 만족해야 할 조건은 무엇인가? 특히 주어진 기능 요약과의 호환성 조건은 무엇인가?
• RQ3 특히 과도함수화를 통한 정규화는 기능 데이터 해제에서 프라이버시와 유용성의 상충관계에 어떤 영향을 미치는가?
• RQ4 프라이버시 제약 하에 사전 교차검증(PCV)을 통한 사전 하이퍼파rameter 튜닝이 기존 교차검증보다 더 높은 유용성의 추정치를 도출할 수 있는가?
• RQ5 무한차원 공간에서 기능 밀도를 어떻게 구성하고 의미 있게 활용할 수 있는가? 이는 프라이버시 보장 통계 추론에 어떻게 기여하는가?

주요 결과

• 가우시안 메커니즘은 전체 함수 해제 및 경로 수준 요약을 포함한 광범위한 선형 및 비선형 함수성에 대해 $(\epsilon,\delta)$-차별적 프라이버시를 달성한다.
• 핵심적인 부정적 결과로, 모든 가우시안 노이즈가 주어진 요약과 호환되는 것은 아님을 보여주며, DP 달성을 위해 호환성이 필수 조건임을 밝힌다.
• 벌점 스무딩을 통한 평균 함수 추정에서, 가우시안 커널을 사용할 경우 $\phi = 0.01$를 설정하면 프라이버시와 유용성 사이에 균형이 잘 맞는다.
• 사전 교차검증(PCV)은 과도함수화를 초래하지만, 노이즈 감소로 인해 유용성이 크게 향상되어 과도함수화가 프라이버시-유용성 상충관계를 개선함을 보여준다.
• 시뮬레이션 결과, PCV 기반 추정치는 특히 가우시안 커널을 사용할 경우 높은 유용성을 유지하며, 진짜 평균 함수와 매우 가까운 추세를 보인다.
• 이 프레임워크는 정규화가 프라이버시에서 핵심적인 역할을 한다는 점을 드러낸다: 약간의 과도함수화는 필요한 노이즈를 감소시켜 유용성을 향상시키지만, 프라이버시 보장은 그대로 유지된다.