[논문 리뷰] Data Sanitisation Protocols for the Privacy Funnel with Differential Privacy Guarantees

Milan Lopuhaä-Zwakenberg, Haochen Tong외 1명|arXiv (Cornell University)|2020. 08. 30.

Privacy-Preserving Technologies in Data참고 문헌 31인용 수 5

한 줄 요약

이 논문은 개인 정보 펌프(Privacy Funnel)에 대해 국소적 데이터 정제 프로토콜을 제안하며, 국소적 차별적 비밀유지(LDP)와 국소적 정보 비밀유지(LIP)를 사용하여 최악의 경우 비밀유지 보장을 제공한다. 두 메트릭스 하에서 최적의 프로토콜을 계산하기 위한 효율적인 알고리즘을 도입하여, LIP가 LDP보다 비밀유지 요구사항과 더 잘 부합하고 계산 속도가 빠르며, 최적 솔루션이 비가능한 실용적 상황을 고려해 새로운 조건부 보고(Conditional Reporting) 프로토콜을 제안한다.

ABSTRACT

In the Open Data approach, governments and other public organisations want to share their datasets with the public, for accountability and to support participation. Data must be opened in such a way that individual privacy is safeguarded. The Privacy Funnel is a mathematical approach that produces a sanitised database that does not leak private data beyond a chosen threshold. The downsides to this approach are that it does not give worst-case privacy guarantees, and that finding optimal sanitisation protocols can be computationally prohibitive. We tackle these problems by using differential privacy metrics, and by considering local protocols which operate on one entry at a time. We show that under both the Local Differential Privacy and Local Information Privacy leakage metrics, one can efficiently obtain optimal protocols. Furthermore, Local Information Privacy is both more closely aligned to the privacy requirements of the Privacy Funnel scenario, and more efficiently computable. We also consider the scenario where each user has multiple attributes, for which we define Side-channel Resistant Local Information Privacy, and we give efficient methods to find protocols satisfying this criterion while still offering good utility. Finally, we introduce Conditional Reporting, an explicit LIP protocol that can be used when the optimal protocol is infeasible to compute, and we test this protocol on real-world and synthetic data. Experiments on real-world and synthetic data confirm the validity of these methods.

연구 동기 및 목표

• 기존 개인 정보 펌프 접근 방식이 평균적 상호정보 유출에 의존함에 따라 최악의 경우 비밀유지 보장이 부족한 문제를 해결하기 위해.
• 대규모 데이터셋에 대해 글로벌 정제 프로토콜이 계산적으로 비가능하므로, 개별 데이터 항목에서 작동하는 국소 프로토콜로 전환하여 이를 해결하기 위해.
• 특히 관찰 가능한 $X$가 아닌 민감한 변수 $S$에 대한 정보 유출을 측정하기 위해, 국소적 차별적 비밀유지(LDP)와 국소적 정보 비밀유지(LIP) 메트릭스를 개인 정보 펌프 환경에 적응시키기 위해.
• 스케일러빌리티와 유틸리티 유지에 중점을 두어 최적의 LIP 및 LDP 프로토콜을 효율적으로 계산하는 방법을 개발하기 위해.
• 최적 프로토콜 계산이 비가능한 상황을 고려해 새로운 프로토콜인 조건부 보고(CR)를 도입하고 평가하기 위해.

제안 방법

• 민감한 변수 $S$에 대한 정보 유출을 측정하기 위해 관찰 가능한 $X$가 아닌 $S$를 중심으로 국소적 차별적 비밀유지(LDP)와 국소적 정보 비밀유지(LIP) 메트릭스를 적응시켜 최악의 경우 비밀유지 보장을 확보한다.
• 최적 정제 프로토콜을 찾는 문제를 다각형의 꼭짓점 열거로 환원한다: LDP의 경우 $a^2 - a$차원, LIP의 경우 $a - 1$차원이며, 여기서 $a = \#\mathcal{X}$이다.
• LDP 또는 LIP 유출에 대한 비밀유지 제약 조건 $\varepsilon$ 하에서 상호정보량 $I(X;Y)$를 최대화하기 위해 볼록 최적화 기법을 사용한다.
• 조건부 보고(CR)를 도입하여 전체 꼭짓점 열거를 피하고, 최적 보고 파라미터 $\alpha$를 결정하기 위해 일차원 근 찾기 문제를 해결한다.
• 측면 채널 공격에 저항하는 국소적 정보 비밀유지(SRLIP)를 도입하여 다중 속성 환경으로 프레임워크를 확장한다.
• 수치적 방법을 활용해 CR 파라미터를 효율적으로 계산하고, 실세계(Adult) 및 합성 데이터셋에서 성능을 평가한다.

실험 결과

연구 질문

• RQ1 개인 정보 펌프 프레임워크에서 최악의 경우 비밀유지 보장을 갖는 국소 정제 프로토콜을 효율적으로 계산할 수 있는가?
• RQ2 개인 정보 펌프 환경에서 국소적 정보 비밀유지(LIP)와 국소적 차별적 비밀유지(LDP)는 비밀유지 일치도, 계산 효율성, 유틸리티 측면에서 어떻게 비교되는가?
• RQ3 최적 프로토콜 계산이 비가능한 상황에서, 조건부 보고(CR)와 같은 실용적이고 효율적인 프로토콜이 GRR 및 OUE와 같은 일반 목적의 LDP 프로토콜보다 유틸리티에서 뛰어나게 성능을 발휘할 수 있는가?
• RQ4 CR 및 기타 프로토콜의 성능은 공동 분포 $p_{X,S}$에 따라 어떻게 달라지며, 특히 파라미터 $\alpha$와 $\varepsilon$에 따라 어떻게 영향을 받는가?
• RQ5 측면 채널에 저항하는 LIP(SRLIP)는 다중 속성 환경에서 비밀유지 강화에 얼마나 기여하는가? 이는 유틸리티와 계산 시간에 어떤 상호 교환적 영향을 미치는가?

주요 결과

• 최적의 $\varepsilon$-LIP 프로토콜은 $2ac$개의 부등식을 가진 $a-1$차원 다각형의 꼭짓점을 열거함으로써 계산 가능하며, 이는 $\varepsilon$-LDP에 필요한 $a^2 - a$차원 다각형보다 훨씬 효율적이다.
• LIP는 민감한 변수 $S$를 보호하는 개인 정보 펌프의 목표와 더 잘 부합하며, 특히 작은 $\varepsilon$에서 계산 효율성과 유틸리티 측면에서 LDP를 능가한다.
• 제안된 조건부 보고(CR) 프로토콜은 OUE를 항상 능가하고 GRR와 유사한 성능을 보이며, 유틸리티는 각 프로토콜의 주요 파라미터 $\alpha$의 상대적 값에 따라 달라진다.
• Adult 데이터셋에서 $\varepsilon = 1.5$ 및 $\varepsilon = 2$일 때 CR은 GRR보다 더 높은 유틸리티를 달성하며, $a$가 $c$에 비해 더 커질수록 성능 격차는 커진다.
• SRLIP는 다중 속성 환경에서 측면 채널 유출을 방지함으로써 LIP보다 더 강력한 비밀유지 보장을 제공하지만, 계산 시간 증가와 유틸리티 감소를 수반한다.
• GRR와 CR 간 유틸리티의 차이는 $I(X;S)$, $\max_{x,s} p_{x,s}$, 또는 $\max_x p_x$와 같은 표준 분포 특성으로 예측할 수 없다.