[논문 리뷰] Consistent and accurate frequency oracles under local differential privacy

Tianhao Wang, Milan Lopuhaä-Zwakenberg외 3명|arXiv (Cornell University)|2019. 05. 20.

Privacy-Preserving Technologies in Data참고 문헌 23인용 수 17

한 줄 요약

이 논문은 국소적 미분적 비밀유지(LDP) 주파수 오라클의 정확도를 향상시키기 위해 추정 주파수에 비례성 제약 조건—비음성 및 합이 1이 되는 조건—을 강제하는 후처리 기법을 제안한다. 이러한 보편적 성질을 활용함으로써, 개별 값에 적합한 Base-Cut, 빈번한 값에 적합한 Norm, 부분집합 쿼리에 적합한 PowerNS와 같은 방법들이 기준 추정 방법보다 뚜렷이 뛰어나며, 모든 쿼리 유형에서 최적의 방법이 유일하게 존재하지는 않는다.

ABSTRACT

Local Differential Privacy (LDP) protects user privacy from the data collector. LDP protocols have been increasingly deployed in the industry. A basic building block is frequency oracle (FO) protocols, which estimate frequencies of values. While several FO protocols have been proposed, their resulting estimations, however, do not satisfy the natural consistency requirement that estimations are non-negative and sum up to 1. In this paper, we study how to add post-processing steps to FO protocols to make them consistent while achieving high accuracy for a wide range of tasks, including frequencies of individual values, frequencies of the most frequent values, and frequencies of subsets of values. We consider 10 different methods, some of them explicitly proposed before in the literature, and others introduced in this paper. We establish theoretical relationships between some of them and conducted extensive experimental evaluations. Among them, we propose to use Norm-Hyb, which keeps estimations above a certain threshold unchanged, and then converts negative estimations to 0 while adding a value (typically negative) to all other estimations to ensure a sum of 1.

연구 동기 및 목표

• 다양한 쿼리 유형, 특히 추정 노이즈로 인해 음수 또는 일관성 없는 주파수 추정치가 발생하는 경우 기존 LDP 주파수 오라클 프로토콜의 낮은 정확도 문제를 해결하기 위해.
• 비음성 주파수 및 총합이 1이 되는 보편적 일관성 성질을 강제함으로써 다양한 쿼리 워크로드에서 추정 정확도를 크게 향상시킬 수 있는지 탐색하기 위해.
• 이러한 일관성 제약 조건을 다양한 방식으로 활용하는 10가지의 별개의 후처리 방법을 식별하고 평가하기 위해, 이와 함께 힘의 법칙 가정을 통합한 방법도 포함한다.
• 개별 값, 빈번한 값, 또는 값의 부분집합에 대한 쿼리 유형에 따라 최적의 후처리 방법을 선택하는 데 실용적인 가이드라인을 제공하기 위해.
• 다양한 일관성 강제 방법이 유도하는 편향과 분산 간의 상호 관계를 이론적으로 및 실증적으로 분석하고, 이로 인한 쿼리 정확도에 대한 영향을 평가하기 위해.

제안 방법

• 비음성(예: Base-Cut), 합이 1이 되는(예: Norm), 또는 둘 다 강제하는(예: PowerNS) 일관성 제약 조건을 구현하는 10가지의 후처리 방법을 제안한다.
• 제약 조건이 있는 최소 제곱법(CLS)과 최대우도추정법(MLE)을 이론적 기초로 삼아 일관성 제약 조건 하에서 최적의 추정기 추론하기.
• 이전 연구 [17]에서 제안한 힘의 법칙 가정을 일관성 제약 조건과 융합하여 부분집합 쿼리 정확도를 향상시킨 PowerNS 방법을 도출한다.
• L2-거리 최소화(예: Norm-Sub) 및 L1-거리 최소화(예: MLE-Apx)를 적용하여 추정 오차를 줄이고 일관성을 유지한다.
• 기본 LDP 프로토콜(예: OLH, 해드마드 응답)과 이러한 후처리 기법을 융합하여 합성 및 실세계 데이터셋에서 성능 평가한다.
• 실세계 데이터가 최적의 구성 설정을 드러내지 않을 수 있으므로, 부분집합 쿼리에 대한 방법 선택을 안내하기 위해 합성 데이터셋을 활용한다.

실험 결과

연구 질문

• RQ1 LDP 주파수 추정치에 비음성 및 합이 1이 되는 제약 조건을 강제하면 다양한 쿼리 유형에서 정확도 향상이 뚜렷하게 이루어지는가?
• RQ2 개별 값 쿼리, 빈번한 값 쿼리, 부분집합 쿼리에 대해, 다양한 일관성 강제 후처리 방법 간의 편향, 분산, 정확도는 어떻게 비교되는가?
• RQ3 LDP 제약 조건 하에서 제약 조건이 있는 최소 제곱법과 최대우도추정법 간의 이론적 관계는 무엇인가?
• RQ4 일관성 제약 조건과 힘의 법칙 가정을 융합함으로써(예: PowerNS를 통해) 부분집합 주파수 쿼리에 대해 단독 방법보다 더 높은 성능을 낼 수 있는가?
• RQ5 각 쿼리 워크로드에 대해 최적의 후처리 방법은 무엇이며, 작업 유형에 맞는 추천 프레임워크를 제공할 수 있는가?

주요 결과

• 음수 추정치를 0으로 설정하는 Base-Cut는 편향을 크게 유도하지 않으면서 분산을 줄여 개별 값 주파수 쿼리에서 가장 높은 정확도를 달성한다.
• 합이 1이 되는 조건을 강제하는 Norm은 가장 빈번한 값의 주파수를 추정할 때 가장 우수한 성능을 보이며, 전역 정규화를 통해 분산을 줄여준다.
• 부분집합 주파수 쿼리의 경우, 힘의 법칙 가정과 함께 비음성 및 합이 1이 되는 조건을 모두 통합한 PowerNS가 가장 높은 정확도를 달성하며, 다른 방법들을 압도한다.
• 이론적 분석을 통해 제약 조건 하에서 L2-거리 최소화는 노이즈가 약간 가우시안에 가까울 경우 최대우도추정법을 근사함을 보여주며, 이는 CLS를 실용적 대체 수단으로 사용하는 것이 타당함을 검증한다.
• 모든 쿼리 유형에서 한 가지 방법이 모든 다른 방법보다 뛰어나지 않으며, 최적의 방법은 쿼리 워크로드에 따라 크게 달라지므로 작업 유형에 맞는 선택이 필수적이다.
• 실증 평가 결과, 일관성 기반 후처리가 합성 및 실세계 데이터셋에서 정확도를 뚜렷이 향상시키며, 특히 높은 노이즈를 포함한 LDP 환경에서 두드러진다.