[논문 리뷰] Composition Theorems for Interactive Differential Privacy

Xin Lyu|arXiv (Cornell University)|2022. 07. 19.

Privacy-Preserving Technologies in Data인용 수 7

한 줄 요약

이 논문은 약간의 DP, 레니의 DP, 제로 농축 DP, 그리고 잘린 농축 DP와 같은 여러 차별적 비밀유지 개념에 대해 최적의 동시 구성 정리들을 수립한다. 이는 상호작용이 독립된 메커니즘에 대해 이루어질 때 공격자가 이득을 보지 못함을 보여준다. 이 프레임워크는 상호작용이 차별적 비밀유지 메커니즘에서 기본적으로 개인정보 보호 기능을 갖춘다는 것을 증명하며, 순수 DP에 대한 이전 결과를 일반화하고, 복잡한 동시 알고리즘(예: 비밀스러운 추측-검증 메커니즘)의 더 단순한 개인정보 분석을 가능하게 한다.

ABSTRACT

An interactive mechanism is an algorithm that stores a data set and answers adaptively chosen queries to it. The mechanism is called differentially private, if any adversary cannot distinguish whether a specific individual is in the data set by interacting with the mechanism. We study composition properties of differential privacy in concurrent compositions. In this setting, an adversary interacts with k interactive mechanisms in parallel and can interleave its queries to the mechanisms arbitrarily. Previously, Vadhan and Wang [2021] proved an optimal concurrent composition theorem for pure-differential privacy. We significantly generalize and extend their results. Namely, we prove optimal parallel composition properties for several major notions of differential privacy in the literature, including approximate DP, Rényi DP, and zero-concentrated DP. Our results demonstrate that the adversary gains no advantage by interleaving its queries to independently running mechanisms. Hence, interactivity is a feature that differential privacy grants us for free. Concurrently and independently of our work, Vadhan and Zhang [2022] proved an optimal concurrent composition theorem for f-DP [Dong et al., 2022], which implies our result for the approximate DP case.

연구 동기 및 목표

• 차별적 비밀유지에서 상호작용적이고 동시적인 메커니즘에 대한 구성 정리의 격차를 해결하기 위해.
• 바드한과 왕(2021)의 순수 DP에 대한 동시 구성 결과를 더 넓은 차별적 비밀유지 개념으로 확장하기 위해.
• 공격자가 독립된 메커니즘 간의 쿼리를 번갈아 가며 사용할 때 개인정보 유출 이득을 얻지 못함을 보여주기 위해.
• 복잡한 알고리즘을 단순한 원천들로의 동시 구성으로 간주하는 모듈러 개인정보 분석 프레임워크를 제공하기 위해.
• 적응적인 출력에 의존하는 실용적 알고리즘(예: 비밀스러운 추측-검증)에서의 개인정보 우려를 해결하기 위해.

제안 방법

• k개의 독립적인 차별적 비밀유지 메커니즘을 단일 구성 메커니즘으로 모델링하는 동시 구성 프레임워크를 제안하며, 이는 번갈아 가며 쿼리에 접근할 수 있도록 한다.
• 이 프레임워크를 사용하여 약간의 DP, 레니 DP, 제로 농축 DP, 잘린 농축 DP에 대해 최적의 개인정보 보호 한계를 증명한다.
• 기존의 비밀유지 메커니즘(예: 희소 벡터 기술과 라플라스 메커니즘)을 블랙박스 구성 정리로 결합하여 동시 접근 조건 하에서 사용한다.
• 시뮬레이션 추론을 사용한다: 복잡한 알고리즘에 대한 적응형 쿼리 시퀀스는 독립적으로 비밀유지되는 단순한 메커니즘들과의 동시 상호작용을 통해 모방된다.
• 기존의 개인정보 보호 정리(예: 루이 등 2017, 라플라스 메커니즘)를 빌딩 블록으로 사용하며, 구성된 시스템이 개인정보 보호 보장을 그대로 이어받음을 증명한다.
• 동시 구성 하에서 개인정보 손실이 순차적 구성보다 악화되지 않음을 보여주며, 이는 상호작용이 개인정보 보호에 영향을 주지 않는다는 것을 의미한다.

실험 결과

연구 질문

• RQ1 다양한 차별적 비밀유지 메커니즘에 대해 쿼리를 번갈아 가며 사용하는 것이 이웃 데이터셋을 구분하는 데 공격자에게 이득을 주는가?
• RQ2 약간의 DP, 레니 DP, 제로 농축 DP에 대해 동시 접근 조건 하에서 최적의 구성 정리를 수립할 수 있는가?
• RQ3 희소 벡터 기술과 같은 기존의 개인정보 보존 원천을 적응형 노이즈 추가 메커니즘과 동시 환경에서 안전하게 조합할 수 있는가?
• RQ4 비밀스러운 추측-검증과 같은 복잡한 알고리즘의 개인정보 분석은 동시 구성 하에서 유효한가, 아니면 재평가가 필요한가?
• RQ5 동시 구성 프레임워크를 사용하여 다수의 비밀유지 구성 요소를 조합하는 시스템에서 개인정보 보장을 모듈러하게 검증할 수 있는가?

주요 결과

• 논문은 k개의 차별적 비밀유지 메커니즘의 동시 구성이 순차적 구성과 동일한 개인정보 유출 수준을 갖는다고 증명한다. 즉, 공격자가 쿼리를 번갈아 가며 사용해도 이득을 보지 못한다.
• 약간의 DP의 경우, (3ε, 0)-비밀유지 희소 벡터 기술(SVT) 변형과 (ε, 0)-비밀유지 라플라스 메커니즘을 조합할 때, 구성된 메커니즘이 (4ε, 0)-차별적 비밀유지 조건을 만족함을 보였다.
• 프레임워크는 레니 DP와 제로 농축 DP에 대해 최적의 구성 정리를 수립하며, 이는 이전의 순수 DP 결과를 일반화한다.
• 분석 결과는 차별적 비밀유지 시스템에서의 상호작용이 비용이 들지 않으며, 조건부로도 개인정보 보호를 유지하는 특징임을 보여준다. 이는 적응형, 동시 쿼리 패턴 하에서도 마찬가지이다.
• 프레임워크는 모듈러 개인정보 검증을 가능하게 한다. 복잡한 알고리즘은 잘 이해된 단순한 원천들의 동시 구성으로 분석할 수 있다.
• 결과적으로, 비밀스러운 추측-검증 메커니즘과 같은 실용적 알고리즘의 개인정보 분석에서 중요한 격차를 해결하였으며, 이는 이전에 잘못된 구성 추론으로 인해 취약했던 분야를 보완하였다.