[논문 리뷰] Calibrating Data to Sensitivity in Private Data Analysis

Davide Proserpio, Sharon Goldberg외 1명|arXiv (Cornell University)|2012. 03. 15.

Privacy-Preserving Technologies in Data인용 수 30

한 줄 요약

이 논문은 민감한 레코드의 가중치를 낮춤으로써 노이즈 크기를 늘리지 않고도 정확도를 향상시키는, 차별적(private) 데이터 분석 플랫폼인 wPINQ를 소개한다. 비균일한 가중치 스케일링(특히 그래프 내 고차수 노드에 대해)을 통해 데이터 민감도를 校정함으로써, wPINQ는 최악의 경우 노이즈 스케일링보다 더 높은 정확도를 달성하여 사회적 네트워크 및 그래프 모티프의 정밀한 비공개 분석을 가능하게 한다.

ABSTRACT

We present an approach to differentially private computation in which one does not scale up the magnitude of noise for challenging queries, but rather scales down the contributions of challenging records. While scaling down all records uniformly is equivalent to scaling up the noise magnitude, we show that scaling records non-uniformly can result in substantially higher accuracy by bypassing the worst-case requirements of differential privacy for the noise magnitudes. This paper details the data analysis platform wPINQ, which generalizes the Privacy Integrated Query (PINQ) to weighted datasets. Using a few simple operators (including a non-uniformly scaling Join operator) wPINQ can reproduce (and improve) several recent results on graph analysis and introduce new generalizations (e.g., counting triangles with given degrees). We also show how to integrate probabilistic inference techniques to synthesize datasets respecting more complicated (and less easily interpreted) measurements.

연구 동기 및 목표

• 그래프 분석에서 단일 간선이 쿼리 출력을 크게 변화시킬 수 있는 바람에 발생하는 최악의 감도 기준으로 인한 높은 노이즈 과부하 문제를 해결한다.
• 균일한 노이즈 스케일링에 의존하고 복잡한 그래프 쿼리에서 어려움을 겪는 기존의 개인정보 보호 플랫폼인 PINQ와 Airavat의 한계를 극복한다.
• 가중치가 부여된 데이터셋과 일반적인 연산(비균일 조인 및 그룹화 등)을 지원하는, SQL 유사한 선언적 언어(wPINQ)를 개발한다.
• 증분적 MCMC 추론을 활용해 자동으로 개인정보 증명과 합성 데이터셋 생성을 가능하게 하여 분석가의 사용성과 정확성을 향상시킨다.
• 데이터 기반 가중치 스케일링이 최악의 감도 기준을 우회하여, 균일한 노이즈 스케일링이나 레코드 제거보다 더 높은 정확도를 달성할 수 있음을 입증한다.

제안 방법

• 기본 다중집합의 일반화로, 기록이 실수 값을 갖는 다중성을 가진 가중치가 부여된 데이터셋을 도입하여 민감도에 대한 세밀한 제어를 가능하게 한다.
• 고민감도 기록(예: 고차수 노드에 연결된 간선 등)의 기여도를 줄이기 위해 비균일한 가중치 스케일링을 적용하여 총 민감도를 감소시킨다.
• 비균일 조인 및 그룹화와 같은 연산을 지원하는 선언적 언어 wPINQ를 설계하여, 차별적 프라이버시 보장을 유지하면서도 복잡한 그래프 쿼리를 가능하게 한다.
• 증분 계산을 활용해 MCMC 기반 확률적 추론 엔진을 지원하여, wPINQ 측정치와 일치하는 데이터셋을 합성한다.
• 예를 들어 삼각형의 가중치를 $1/\max\{d_a, d_b, d_c\}$로 설정함으로써, 각 입력 간선당 총 영향력이 유한하게 유지되도록 인스턴스 기반 감도를 校정한다.
• 가중치 변환의 안정성에 기반해 공식적으로 프라이버시를 증명하여, 최악의 감도 기준에 의존하지 않고도 차별적 프라이버시를 보장한다.

실험 결과

연구 질문

• RQ1 가중치가 부여된 데이터셋에서 데이터 기반 가중치 스케일링이 프라이버시를 해치지 않으면서도 차별적 분석에서 노이즈 요구량을 줄일 수 있는가?
• RQ2 wPINQ와 같은 선언적 언어가 복잡한 그래프 쿼리(예: 삼각형 및 모티프 수 계산)를 처리하면서 종단 간 차별적 프라이버시 보장을 확보할 수 있는가?
• RQ3 가중치가 부여된 데이터셋이 기존의 노이즈 스케일링 방법에 비해 그래프 분석에서 정확도를 얼마나 향상시킬 수 있는가?
• RQ4 증분적 MCMC 추론을 사용해 wPINQ의 복잡하고 비균일한 측정치를 충족하는 합성 데이터셋을 자동으로 생성할 수 있는가?
• RQ5 wPINQ의 접근 방식은 부드러운 감도나 레코드 잘라내기와 비교해 정확도와 프라이버시 보장 측면에서 어떻게 다른가?

주요 결과

• wPINQ는 높은 민감도 기록의 가중치를 낮춤으로써 노이즈를 늘리지 않고도 기존의 차별적 분석 방법보다 훨씬 높은 정확도를 달성한다. 특히 일정 차수의 그래프에서 그러한 효과가 두드러진다.
• 삼각형 수 계산의 경우, 각 삼각형의 가중치를 $1/\max\{d_a, d_b, d_c\}$로 설정함으로써, 각 간선당 총 가중치 변화가 상수로 제한되어 일정 크기의 노이즈로 충분하며, $O(|V|)$ 수준의 노이즈 스케일링을 피할 수 있다.
• 플랫폼은 이전의 결과를 성공적으로 재현하고 향상시켰으며, 차별적 계산을 통한 차수 및 공동 차수 분포의 계산도 가능하게 했다.
• wPINQ는 이전 시스템에서 기본적으로 지원되지 않는 새로운 기능을 제공한다. 예를 들어, 주어진 차수를 가진 삼각형의 비공개 수 계산 및 모티프 분석이 가능하다.
• wPINQ의 증분적 MCMC 추론 엔진은 복잡한 측정치와 일치하는 데이터셋을 효율적으로 합성하여, 이전에는 수동 설계가 필요했던 과정을 자동화한다.
• wPINQ의 접근 방식은 부드러운 감도나 레코드 잘라내기의 단점을 피하며, 데이터를 유지하면서 영향력을 선택적으로 줄임으로써 정확도와 프라이버시 사이의 더 매끄러운 트레이드오프를 제공한다.