[논문 리뷰] Subspace Differential Privacy

Jie Gao, Ruobin Gong외 1명|arXiv (Cornell University)|2021. 08. 26.

Privacy-Preserving Technologies in Data인용 수 4

한 줄 요약

이 논문은 인구 총계나 시공간적 제약 조건과 같은 강제 데이터 인variants를 차등적 비밀유지 메커니즘의 초도 단계부터 통합하는 프레임워크인 부분공간 차등적 비밀유지(부분공간 DP)를 소개한다. 표준 메커니즘(예: 라플라스 또는 가우시안)에서 유도된 노이즈를 인버턴트 부분공간에 투영하여, 편향 없고 투명하며 후처리가 불필요한 출력을 보장하면서도 공식적인 비밀유지 보장을 유지한다.

ABSTRACT

Many data applications have certain invariant constraints due to practical needs. Data curators who employ differential privacy need to respect such constraints on the sanitized data product as a primary utility requirement. Invariants challenge the formulation, implementation, and interpretation of privacy guarantees. We propose subspace differential privacy, to honestly characterize the dependence of the sanitized output on confidential aspects of the data. We discuss two design frameworks that convert well-known differentially private mechanisms, such as the Gaussian and the Laplace mechanisms, to subspace differentially private ones that respect the invariants specified by the curator. For linear queries, we discuss the design of near-optimal mechanisms that minimize the mean squared error. Subspace differentially private mechanisms rid the need for post-processing due to invariants, preserve transparency and statistical intelligibility of the output, and can be suitable for distributed implementation. We showcase the proposed mechanisms on the 2020 Census Disclosure Avoidance demonstration data, and a spatio-temporal dataset of mobile access point connections on a large university campus.

연구 동기 및 목표

• 강제 인버턴트(예: 인구 총계 또는 합 제약 조건)를 차등적 비밀유지 데이터 배포에서 편향 없이 구현하는 데 도전하는 것.
• 일반적으로 결과를 왜곡하고 비밀유지 보장을 음영화하는 후처리의 필요성을 제거하는 것.
• 통계적으로 투명하고 편향 없으며 분산 배포에 적합한 메커니즘을 개발하는 것.
• 데이터가 선형 등식 제약 조건을 만족해야 하는 환경(예: 연도표 또는 시간 시리즈 집계)으로 차등적 비밀유지를 확장하는 것.
• 실제 데이터세트(2020년 캐논 DAS 데이터 및 대학 WiFi 시공간 데이터세트 포함)에서 프레임워크의 유효성과 정확도를 입증하는 것.

제안 방법

• 선형 등식 인버턴트를 비밀유지 메커니즘 설계에 명시적으로 통합하는 새로운 비밀유지 모델인 부분공간 차등적 비밀유지를 제안한다.
• 표준 차등적 비밀유지 메커니즘(예: 라플라스, 가우시안)을 부분공간 DP 호환으로 변환하기 위한 두 가지 일반적 프레임워크(투영 및 확장)를 설계한다.
• 제약 조건이 없는 분포에서 유도된 노이즈 변수에 투영을 적용하여 최종 출력이 인버턴트 부분공간 내에 위치하도록 보장한다.
• 선형 쿼리의 경우, 부분공간 제약 조건 하에서 평균 제곱오차를 최소화하는 근사 최적 메커니즘을 유도한다.
• 비밀유지 및 편향 없음에 대한 이론적 보장을 갖는 핵심 빌딩 블록으로, 투영 라플라스 및 투영 가우시안 메커니즘을 사용한다.
• 후처리가 아닌 설계 단계에서 거리 최소화를 활용하여 데이터 의존적 편향을 피한다.

실험 결과

연구 질문

• RQ1 차등적 비밀유지는 어떻게 강제 인버턴트(예: 인구 총계 또는 합 제약 조건)를 공식적으로 확장할 수 있는가?
• RQ2 노이즈 주입 이후에 인버턴트를 강제로 적용할 경우 후처리가 편향과 비밀유지 해석에 어떤 영향을 미치는가?
• RQ3 선형 등식 제약 조건을 만족하면서도 편향 없는 차등적 비밀유지 메커니즘을 설계할 수 있는가?
• RQ4 제안된 메커니즘의 오차 척도는 기존 시스템(예: 캐논 DAS)과 비교해 어떻게 되는가?
• RQ5 후처리 이후에가 아니라 메커니즘 설계 단계에서 인버턴트를 통합할 경우 통계적 및 구현적 이점은 무엇인가?

주요 결과

• 제안된 부분공간 차등적 비밀유지 메커니즘은 2020년 캐논 DAS에서 사용된 TopDown 알고리즘과 달리 증명적으로 편향이 없으며, 실제 인구 규모와 오차 간의 체계적 음의 편향을 보인다.
• 2020년 캐논 시범 데이터에서, 48개 주 수준의 회귀 분석 중 11개에서 DAS 오차와 로그 인구 규모 간에 통계적으로 유의미한 음의 기울기를 보였으며, 명백한 편향 경향을 나타낸다.
• 일리inois 카운티에 적용된 제안된 투영 라플라스 메커니즘은 이러한 편향 경향이 없었으며, 편향 없는 투영된 랜덤 변수에서 기인한 오차를 보였다.
• 시공간 WiFi 데이터세트에서, 투영 가우시안 메커니즘은 원소 오차의 중앙값이 0.88이었고, 90% 분위수는 0.86에서 0.91 사이에 있었다.
• 50회의 반복 동안 메커니즘은 일관된 오차 척도를 유지했으며, 후처리 없이 통계적 이해 가능성을 유지했다.
• 인버턴트를 메커니즘 설계 초도 단계에서 통합함으로써, 후처리와 관련된 비밀유지 누출 우려를 피했다.