[논문 리뷰] Crypt$\epsilon$: Crypto-Assisted Differential Privacy on Untrusted Servers.
Cryptϵ는 신뢰할 수 없는 서버에서 신뢰할 수 있는 중앙 모델의 정확도와 표현력을 유지하면서도 신뢰할 수 있는 캘린더가 없이도 정확하고 표현력 있는 차별적 프라이버시 계산을 가능하게 하는 암호화 보조 차별적 프라이버시 시스템이다. 이 시스템은 암호화된 데이터를 기반으로 동작하는 동안 중앙 모델의 정확도와 표현력을 달성하면서도, 동적 프라이버시 보장을 위한 안전한 다중 당사자 계산을 통해 계산적 차별적 프라이버시를 보장하기 위해, 애널리틱스 서버(AS)와 암호 서비스 제공자(CSP)로 구성된 두 대의 상호 작용하지 않는 서버를 사용한다. 이는 동일한 방식으로 동작하는 암호화된 데이터를 기반으로 동작하는 동안 중앙 모델의 정확도와 표현력을 달성하면서도, 동적 프라이버시 보장을 위한 안전한 다중 당사자 계산을 통해 계산적 차별적 프라이버시를 보장한다.
Differential privacy (DP) has steadily become the de-facto standard for achieving privacy in data analysis, which is typically implemented either in the "central" or "local" model. The local model has been more popular for commercial deployments as it does not require a trusted data collector. This increased privacy, however, comes at a cost of utility and algorithmic expressibility as compared to the central model. In this work, we propose, Crypt$\epsilon$, a system and programming framework that (1) achieves the accuracy guarantees and algorithmic expressibility of the central model (2) without any trusted data collector like in the local model. Crypt$\epsilon$ achieves the "best of both worlds" by employing two non-colluding untrusted servers that run DP programs on encrypted data from the data owners. Although straightforward implementations of DP programs using secure computation tools can achieve the above goal theoretically, in practice they are beset with many challenges such as poor performance and tricky security proofs. To this end, Crypt$\epsilon$ allows data analysts to author logical DP programs that are automatically translated to secure protocols that work on encrypted data. These protocols ensure that the untrusted servers learn nothing more than the noisy outputs, thereby guaranteeing DP (for computationally bounded adversaries) for all Crypt$\epsilon$ programs. Crypt$\epsilon$ supports a rich class of DP programs that can be expressed via a small set of transformation and measurement operators followed by arbitrary post-processing. Further, we propose performance optimizations leveraging the fact that the output is noisy. We demonstrate Crypt$\epsilon$'s feasibility for practical DP analysis with extensive empirical evaluations on real datasets.
연구 동기 및 목표
- 신뢰할 수 있는 데이터 캘린더에 의존하지 않고도 중앙 모델의 높은 정확도와 국소 모델의 강력한 프라이버시 보장을 결합하는 데 목적이 있다.
- 데이터 분석가가 중앙 모델과 유사한 방식으로 논리적인 DP 프로그램을 작성할 수 있도록 하되, 암호 기반의 강제를 통해 종단 간 프라이버시 보장을 보장하는 데 목적이 있다.
- 복잡한 변환과 후처리를 포함한 다양한 DP 프로그램 클래스를 지원하면서도, 공식적인 프라이버시 보장을 제공하는 데 목적이 있다.
- 노이즈가 포함된 출력에 대해 성능 최적화를 적용하여, 암호화된 계산에서의 실용적 구현 가능성을 확보하는 데 목적이 있다.
제안 방법
- Cryptϵ는 두 대의 신뢰할 수 없고 상호 작용하지 않는 서버인 애널리틱스 서버(AS)와 암호 서비스 제공자(CSP)를 사용한다. AS는 계산을 담당하고, CSP는 암호 기반 원리를 관리한다.
- 선형 허모닉 암호화(LHE)를 사용하여 안전한 집계를 수행하고, 게이트 기반 회로(Garbled Circuits)를 사용하여 비선형 연산을 안전하게 평가한다.
- 프로그램은 라플라스 메커니즘, 노이즈가 포함된 최대값(Nuoy-Max) 등의 소량의 변환 및 측정 연산자로 작성되며, 이는 구축 시점부터 ϵ-DP를 보장한다.
- 필터링 및 원-핫 인코딩과 같은 연산의 정당성을 검증하기 위해, 민감한 데이터 泄露 없이도 가능한 비밀 증명(비반복적 비밀 증명, DV NIZK)을 사용한다.
- 시스템은 임의의 후처리 및 반복문을 지원하여 표현력 있는 데이터 분석 워크플로우를 가능하게 한다.
- 출력이 본질적으로 노이즈가 포함되어 있음을 고려하여 성능 최적화를 적용함으로써 암호화 오버헤드를 감소시킨다.
실험 결과
연구 질문
- RQ1신뢰할 수 있는 캘린더가 없이도 중앙 모델의 정확도와 표현력을 유지하면서도 차별적 프라이버시를 달성할 수 있는가?
- RQ2두 대의 신뢰할 수 없는 서버가 암호화된 데이터를 기반으로 하여, 노이즈가 포함된 출력 이외의 정보를 泄露하지 않고서도 DP 보호 출력을 안전하게 계산할 수 있는가?
- RQ3분석가가 중앙 모델과 유사한 방식으로 DP 프로그램을 작성할 수 있도록 하되, 공식적인 프라이버시 보장을 보장하는 고수준 프로그래밍 프레임워크를 설계할 수 있는가?
- RQ4암호화 및 최적화 기법을 통해 암호화된 데이터 기반의 안전한 DP 계산을 실용적이고 효율적으로 만들 수 있는가?
주요 결과
- Cryptϵ는 신뢰할 수 있는 캘린더가 없이도 중앙 모델의 정확도 보장을 달성한다 (예: 카운트 쿼리에서 오차가 Θ(1/ϵ) 수준).
- 시스템은 복잡한 변환, 조건문, 반복문, 임의의 후처리를 포함한 다양한 DP 프로그램 클래스를 지원한다.
- 성능 평가 결과, Cryptϵ는 실제 워크로드에서 실용적이며, 노이즈가 포함된 출력에 대한 최적화를 통해 오버헤드를 감소시켰다.
- DV NIZK의 사용을 통해 필터링과 같은 연산의 데이터 무결성과 정당성 검증을 효율적이고 프라이버시 보장된 방식으로 수행할 수 있었다.
- 두 서버가 상호 작용하지 않는다는 가정 하에, 모든 프로그램에 대해 계산적 차별적 프라이버시(SIM-CDP) 보장을 제공한다.
- CSP를 신뢰할 수 있는 실행 환경(TEE)으로 확장함으로써, 악성 서버 동작 상황에서도 제한된 ϵ-DP 보장을 확보할 수 있었다.
더 나은 연구,지금 바로 시작하세요
논문 읽기부터 검토까지, 연구 시간을 획기적으로 줄여보세요.
카드 등록 없음 · 무료 플랜 제공
이 리뷰는 AI가 만들고, 인간 에디터가 검토했습니다.