[논문 리뷰] DP-Cryptography: Marrying Differential Privacy and Cryptography in Emerging Applications

Sameer Wagh, Xi He외 2명|arXiv (Cornell University)|2020. 04. 19.

Privacy-Preserving Technologies in Data참고 문헌 29인용 수 6

한 줄 요약

이 논문은 국소적 차별적 프라이버시(LDP)의 정확성 격차를 해소하면서도 강력한 보안을 유지하기 위해 차별적 프라이버시와 암호기반 원리를 융합한 새로운 패러다임인 DP-암호학을 소개한다. 암호 보안을 약간 완화하여 차별적 프라이버시 유출을 허용함으로써 고성능의 프라이버시 보장 시스템을 가능하게 하며, 기존의 LDP를 뛰어넘는 성능을 발휘한다. 이는 안전한 계산, 익명 통신, 암호화된 데이터베이스 등에 적용 가능하다.

ABSTRACT

Differential privacy (DP) has arisen as the state-of-the-art metric for quantifying individual privacy when sensitive data are analyzed, and it is starting to see practical deployment in organizations such as the US Census Bureau, Apple, Google, etc. There are two popular models for deploying differential privacy - standard differential privacy (SDP), where a trusted server aggregates all the data and runs the DP mechanisms, and local differential privacy (LDP), where each user perturbs their own data and perturbed data is analyzed. Due to security concerns arising from aggregating raw data at a single server, several real world deployments in industry have embraced the LDP model. However, systems based on the LDP model tend to have poor utility - "a gap" in the utility achieved as compared to systems based on the SDP model. In this work, we survey and synthesize emerging directions of research at the intersection of differential privacy and cryptography. First, we survey solutions that combine cryptographic primitives like secure computation and anonymous communication with differential privacy to give alternatives to the LDP model that avoid a trusted server as in SDP but close the gap in accuracy. These primitives introduce performance bottlenecks and necessitate efficient alternatives. Second, we synthesize work in an area we call "DP-Cryptography" - cryptographic primitives that are allowed to leak differentially private outputs. These primitives have orders of magnitude better performance than standard cryptographic primitives. DP-cryptographic primitives are perfectly suited for implementing alternatives to LDP, but are also applicable to scenarios where standard cryptographic primitives do not have practical implementations. Through this unique lens of research taxonomy, we survey ongoing research in these directions while also providing novel directions for future research.

연구 동기 및 목표

• 표준 차별적 프라이버시(SDP)와 국소적 차별적 프라이버시(LDP) 사이의 상당한 유틸리티 격차를 해결하되, LDP는 더 강력한 신뢰 가정을 위해 정확성을 희생한다.
• SDP에서 신뢰할 수 있는 서버가 필요 없도록 하는 암호학적 솔루션을 탐색하면서 LDP보다 유틸리티를 향상시킨다.
• ‘DP-암호학’의 개념을 도입하고 체계화한다—즉, 제어된 차별적 프라이버시 유출을 허용하는 암호기반 원리로서 성능 향상에 기여한다.
• 특히 안전한 계산, 익명 통신, 비공개 데이터 분석 분야에서 차별적 프라이버시와 암호학의 융합 분야에서 새로운 연구 방향을 규명한다.
• 신속한 프라이버시 보장 시스템의 분류 체계를 제시하고, 복잡한 구현 환경에서 효율적인 차별적 프라이버시 프로토콜을 설계하기 위한 새로운 메커니즘을 제안한다.

제안 방법

• 안전한 다자간 계산(MPC), 무작위 액세스 메모리(ORAM), 믹스넷 등 암호기반 원리와 차별적 프라이버시를 융합한 기존 연구를 조사하고 통합한다.
• 제어된, 차별적 프라이버시 유출을 허용하는 새로운 종류의 암호기반 원리—즉, DP-암호기반 원리—를 제안한다. 이는 프라이버시 보장을 해치지 않으면서 성능 향상을 이룬다.
• 암호기반 시스템에서 프라이버시, 유틸리티, 성능 간의 트레이드오프 공간을 분석한다. 특히 암호화된 데이터베이스와 제로지식 증명과 같은 환경에서의 적용을 중심으로 한다.
• 이론적 분석을 통해 DP-암호기반 원리가 표준 암호기반 원리보다 더 높은 효율성을 달성할 수 있음을 보여준다. 이는 여전히 차별적 프라이버시를 유지한다.
• 실제 구현 환경(예: 텔레메트리 및 진단)에서 LDP를 대체하거나 강화하기 위해 DP-암호학을 활용하는 프로토콜 설계 프레임워크를 제안한다.
• 차별적 프라이버시를 통한 약화된 암호 보안을 체계화함으로써, 새로운 구성 방식이 가능해지며, 이는 효율적이고 증명 가능하게 프라이버시 보장된 시스템을 구축할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 암호기반 원리의 보안 수준을 약간 낮춰 차별적 프라이버시 유출을 허용함으로써 강력한 프라이버시 보장을 유지하면서도 상당한 성능 향상을 달성할 수 있는가?
• RQ2 믹스넷 기반 시스템에서 차별적 프라이버시 하에 집계 쿼리(예: 그룹바, 조인)의 오차에 대한 하한은 얼마인가?
• RQ3 DP-암호기반 원리는 프로그램 오버클러프, 트래픽 모폴로지, 암호화된 데이터베이스와 같은 복잡한 시스템으로 어떻게 확장될 수 있는가?
• RQ4 DP-암호기반 프로토콜에서 프라이버시, 유틸리티, 성능 간 최적의 트레이드오프는 무엇이며, 이를 시스템 설계를 위해 어떻게 모델링할 수 있는가?
• RQ5 기존의 SDP 최적화 메커니즘(예: 쿼리 최적화를 위한 것들)은 LDP 및 DP-암호학 환경에 어떻게 적응시킬 수 있는가?

주요 결과

• 제어된 차별적 프라이버시 유출을 허용함으로써 DP-암호기반 원리는 표준 암호기반 원리보다 수개의 주기적 성능 향상을 달성한다.
• LDP를 DP-암호학 기반 프로토콜로 대체함으로써 SDP와 LDP 사이의 정확성 격차가 크게 감소한다. 이는 분산 환경에서도 희귀 사건(예: 100명 이하의 개인이 공유하는 기능)의 분석이 가능하게 한다.
• LDP 모델에서는 각 사용자에 대한 노이즈로 인해 카운트 쿼리에 대해 O(√N)의 오차가 발생하지만, DP-암호학은 암호학적 효율성을 활용해 훨씬 낮은 오차를 달성할 수 있다.
• 정보 이론적 차별적 프라이버시가 특정 이방향 프로토콜에서 계산적 변형보다 더 높은 정확도를 달성할 수 있음을 보여주는 이론적 분리 정리가 존재한다. 이는 신뢰 모델 설계의 중요성을 강조한다.
• 차별적 프라이버시를 통한 암호 보안의 약화는 익명 통신, MPC, 트래픽 익명화 등의 환경에서 효율적이고 프라이버시 보장된 시스템을 구축할 수 있는 새로운 기회를 여는 바이다.
• DP-암호학의 새로운 설계 공간에서 프라이버시, 유틸리티, 성능을 균형 있게 조율하는 최적화된 프로토콜을 설계하는 데 있어 여전히 상당한 열린 연구 과제가 남아 있다.