[논문 리뷰] Local Dampening: Differential Privacy for Non-numeric Queries via Local Sensitivity

Victor A. E. Farias, Felipe T. Brito외 4명|arXiv (Cornell University)|2020. 12. 07.

Privacy-Preserving Technologies in Data인용 수 6

한 줄 요약

이 논문은 국소 민감도를 활용하여 노이즈를 감소시키고 유티리티를 향상시키는 새로운 비밀유지 프레임워크인 로컬 다임핑(Local Dampening) 메커니즘을 소개한다. 이는 비숫자 쿼리에 적용되는 차별적 비밀보장 프레임워크이다. 국소 민감도를 비숫자 출력에 적응시킴으로써, 백분위수 선택에서 최대 73% 낮은 오차, 영향력 있는 노드 분석에서 전역 민감도 기반 접근 방식 대비 2~4개 지수 정도 낮은 프라이버시 예산 사용, 결정 트리 유도에서 최대 12% 높은 정확도를 달성한다.

ABSTRACT

Differential privacy is the state-of-the-art formal definition for data release under strong privacy guarantees. A variety of mechanisms have been proposed in the literature for releasing the output of numeric queries (e.g., the Laplace mechanism and smooth sensitivity mechanism). Those mechanisms guarantee differential privacy by adding noise to the true query's output. The amount of noise added is calibrated by the notions of global sensitivity and local sensitivity of the query that measure the impact of the addition or removal of an individual on the query's output. Mechanisms that use local sensitivity add less noise and, consequently, have a more accurate answer. However, although there has been some work on generic mechanisms for releasing the output of non-numeric queries using global sensitivity (e.g., the Exponential mechanism), the literature lacks generic mechanisms for releasing the output of non-numeric queries using local sensitivity to reduce the noise in the query's output. In this work, we remedy this shortcoming and present the local dampening mechanism. We adapt the notion of local sensitivity for the non-numeric setting and leverage it to design a generic non-numeric mechanism. We provide theoretical comparisons to the exponential mechanism and show under which conditions the local dampening mechanism is more accurate than the exponential mechanism. We illustrate the effectiveness of the local dampening mechanism by applying it to three diverse problems: (i) percentile selection problem. We report the p-th element in the database; (ii) Influential node analysis. Given an influence metric, we release the top-k most influential nodes while preserving the privacy of the relationship between nodes in the network; (iii) Decision tree induction. We provide a private adaptation to the ID3 algorithm to build decision trees from a given tabular dataset.

연구 동기 및 목표

• 비숫자 쿼리에 적용 가능한 일반적인 차별적 비밀보장 메커니즘의 부족을 해결하고, 국소 민감도를 활용해 노이즈를 감소시키는 것을 목적으로 한다.
• 이전에 숫자 쿼리에만 사용된 국소 민감도를 비숫자 쿼리 출력에 적응시킬 수 있는 프레임워크를 설계하는 것을 목적으로 한다.
• 백분위수 선택, 영향력 있는 노드 탐지, 결정 트리 유도와 같은 실제 응용 분야에서 사생활 보장 데이터 분석의 정확성과 효율성을 향상시키는 것을 목적으로 한다.
• 국소 민감도 기반 노이즈 캘리브레이션은 비숫자 환경에서 전역 민감도보다 우수한 성능을 보임을 이론적이고 실증적으로 입증하는 것을 목적으로 한다.
• 차별적 비밀보장의 범위를 숫자 출력을 넘어서 비숫자 영역으로 확장함으로써 향후 비밀보장 알고리즘의 기반을 마련하는 것을 목적으로 한다.

제안 방법

• 로컬 다임핑 메커니즘은 입력 데이터베이스 인스턴스에서 한 개인의 추가 또는 제거로 인한 유티리티 점수의 최대 변화를 정의함으로써, 비숫자 쿼리 출력에 국소 민감도의 개념을 확장한다.
• 차별적 비밀보장을 보장하기 위해, 유티리티 점수 - 국소 민감도에 비례하는 지수 함수를 사용하여 출력 공간에서 샘플링하는 펌프팅 전략을 사용한다.
• 이 메커니즘은 유티리티 점수를 국소 민감도에 따라 스케일링하는 다임핑 함수를 도입하여 고민감도 입력의 영향을 감소시키고 노이즈를 최소화한다.
• 결정 트리 유도의 경우, ID3 알고리즘을 수정하여 정보 이득 메트릭에 로컬 다임핑을 적용하여 사생활 보장된 분할 속성 선택을 수행한다.
• 역전 문제(attribute ranking inversion)를 완화하기 위해, 유티리티 함수를 조정하여 순서 유지가 가능한 변형인 ShiftedLocalDiffPID3를 도입한다.
• 이 방법은 실제 테이블 기반 데이터셋을 사용한 백분위수 선택, 그래프 내 영향력 있는 노드 분석, 사생활 보장된 결정 트리 유도의 세 가지 응용 분야에서 평가된다.

실험 결과

연구 질문

• RQ1 국소 민감도는 비숫자 쿼리 출력에 의미적으로 확장되어 차별적 비밀보장 메커니즘의 노이즈를 감소시킬 수 있는가?
• RQ2 비숫자 환경에서 국소 민감도 기반 노이즈 캘리브레이션은 언제 전역 민감도를 능가하는가?
• RQ3 로컬 다임핑 메커니즘은 백분위수 선택, 영향력 있는 노드 분석, 결정 트리 유도에서 정확성과 프라이버시 예산 효율성을 어떻게 향상시키는가?
• RQ4 비숫자 쿼리 워크로드에서, 이 메커니즘은 에이전시 메커니즘 대비 오차를 얼마나 줄이고 유티리티를 얼마나 향상시키는가?
• RQ5 이 메커니즘은 사생활 보장된 결정 트리 학습에서 랭킹 불안정성(예: 속성 순위 역전)을 다룰 수 있도록 어떻게 적응시킬 수 있는가?

주요 결과

• 백분위수 선택 문제에서 로컬 다임핑 메커니즘은 전역 민감도 기반 접근 방식 대비 오차를 최대 73% 감소시켰다.
• 영향력 있는 노드 분석에서 이 메커니즘은 전역 민감도 기반 접근 방식 대비 프라이버시 예산 사용을 2~4개 지수 정도 감소시켰다.
• 결정 트리 유도에서 LocalDiffPID3는 전역 민감도 기반 기준인 GlobalDiffPID3 대비 최대 12% 높은 정확도를 달성했다.
• ShiftedLocalDiffPID3 변형은 깊은 트리에서 속성 순위 역전 문제를 완화하여 ACS 데이터셋에서 전역 민감도 기반 기준 대비 최대 8% 높은 정확도를 확보했다.
• Adult 및 NLTCS 데이터셋에서 LocalDiffPID3는 전역 민감도 기반 방법 대비 최대 5% 높은 정확도를 확보했으며, ShiftedLocalDiffPID3는 추가로 최대 4%의 정확도 향상을 달성했다.
• 이론적 분석은 입력 데이터베이스가 최악의 시나리오에서 멀리 떨어져 있을 경우, 국소 민감도 기반 노이즈 캘리브레이션은 전역 민감도보다 기대 오차가 낮다는 것을 확인한다.