[논문 리뷰] Outis: Crypto-Assisted Differential Privacy on Untrusted Servers

Amrita Roy Chowdhury, Chenghong Wang외 3명|arXiv (Cornell University)|2019. 02. 20.

Privacy-Preserving Technologies in Data인용 수 22

한 줄 요약

Cryptε는 신뢰할 수 있는 데이터 수령자가 필요로 하지 않으면서도 중앙 모델의 정확성과 표현력을 달성하는 암호 보조 차별적 비밀보장 시스템을 제안한다. 이는 두 개의 상호 협력하지 않는 신뢰할 수 없는 서버를 이용해 암호화된 데이터를 처리함으로써 이루어지며, 보안적인 고려사항을 고려한 자동 컴파일을 통해 논리적 DP 프로그램을 개인정보 보호를 위한 안전한 프로토콜로 변환한다. 이로 인해 강력한 보안 보장을 갖춘 안전하고 효율적인 DP 분석이 가능해진다.

ABSTRACT

Differential privacy (DP) has steadily become the de-facto standard for achieving privacy in data analysis, which is typically implemented either in the or model. The local model has been more popular for commercial deployments as it does not require a trusted data collector. This increased privacy, however, comes at a cost of utility and algorithmic expressibility as compared to the central model. In this work, we propose, Crypt$\epsilon$, a system and programming framework that (1) achieves the accuracy guarantees and algorithmic expressibility of the central model (2) without any trusted data collector like in the local model. Crypt$\epsilon$ achieves the best of both worlds by employing two non-colluding untrusted servers that run DP programs on encrypted data from the data owners. Although straightforward implementations of DP programs using secure computation tools can achieve the above goal theoretically, in practice they are beset with many challenges such as poor performance and tricky security proofs. To this end, Crypt$\epsilon$ allows data analysts to author logical DP programs that are automatically translated to secure protocols that work on encrypted data. These protocols ensure that the untrusted servers learn nothing more than the noisy outputs, thereby guaranteeing DP (for computationally bounded adversaries) for all Crypt$\epsilon$ programs. Crypt$\epsilon$ supports a rich class of DP programs that can be expressed via a small set of transformation and measurement operators followed by arbitrary post-processing. Further, we propose performance optimizations leveraging the fact that the output is noisy. We demonstrate Crypt$\epsilon$'s feasibility for practical DP analysis with extensive empirical evaluations on real datasets.

연구 동기 및 목표

• 차별적 비밀보장에서 중앙 모델의 높은 유틸리티와 국지 모델의 강력한 신뢰 보장을 연결하는 데 목적이 있다.
• 신뢰할 수 있는 데이터 수집자가 필요로 하지 않으면서도, 신뢰할 수 없는 서버에서 실용적이고 효율적이며 안전한 DP 프로그램 실행을 가능하게 하는 데 목적이 있다.
• 고수준 프로그래밍 프레임워크를 통해 다양한 DP 워크로드를 지원하며, 이를 보안 계산 프로토콜로 컴파일하는 데 목적이 있다.
• 암호화된 데이터를 기반으로 한 보안 계산을 통한 DP 배포 시 성능 및 보안 증명 과제를 해결하는 데 목적이 있다.
• 실제 데이터셋을 대상으로 광범위한 실증 평가를 통해 제안된 접근 방식의 실현 가능성과 효율성을 입증하는 데 목적이 있다.

제안 방법

• Cryptε는 데이터 소유자로부터 온 암호화된 데이터를 두 개의 상호 협력하지 않는 신뢰할 수 없는 서버가 공동으로 처리함으로써, 어느 서버도 최종 노이즈 있는 출력 이외의 정보를 알 수 없도록 보장한다.
• 이 시스템은 변환 및 측정 연산자로 표현된 고수준 논리적 DP 프로그램을 보안 계산 프로토콜로 컴파일하여 차별적 비밀보장을 유지한다.
• homomorphic encryption 및 보안 다자간 계산 기법을 활용하여, 계산 능력이 제한된 공격자에 대해서도 개인정보를 유지하면서 암호화된 데이터를 처리할 수 있도록 한다.
• DP 프로그램의 출력이 본질적으로 노이즈가 있음을 고려한 성능 최적화를 도입하여, 불필요한 계산 및 통신을 줄인다.
• 신뢰할 수 없는 서버가 중간 데이터나 원본 데이터를 알 수 없고, 오직 최종 노이즈 있는 출력만을 알 수 있도록 보장함으로써 엔드 투 엔드 차별적 비밀보장을 확보한다.
• 최종 출력에 대한 임의의 후처리를 지원하여 원래 계산의 개인정보 보호 보장을 유지한다.

실험 결과

연구 질문

• RQ1 신뢰할 수 있는 데이터 수집자가 필요로 하지 않으면서도 중앙 모델의 정확성과 표현력을 달성할 수 있는가?
• RQ2 암호화된 데이터를 기반으로 한 보안 계산이 실세계 DP 워크로드에 대해 효율적이고 실용적인가?
• RQ3 신뢰할 수 없는 서버가 존재하는 환경에서 계산 능력이 제한된 공격자에 대해 강력한 개인정보 보장을 확보할 수 있는가?
• RQ4 DP와 같이 출력이 본질적으로 노이즈가 있는 계산에서 가능한 최적화 기법은 무엇인가?
• RQ5 고수준 DP 프로그래밍 프레임워크를 자동으로 보안적이고 개인정보 보호를 위한 프로토콜로 컴파일할 수 있는가?

주요 결과

• Cryptε는 신뢰할 수 있는 데이터 수집자가 필요로 하지 않으면서도 중앙 모델의 정확성과 알고리즘 표현력을 확보하면서도 국지 모델의 신뢰성을 유지함으로써 성공적으로 성과를 달성하였다.
• 실제 데이터셋에서의 성능 평가 결과, DP를 위한 보안 계산이 실세계 배포에 충분히 효율적일 수 있음을 입증하였다.
• 소수의 변환 및 측정 연산자로 구성된 프레임워크는 다양한 DP 프로그램을 지원하며, 표현력은 높이면서도 안전한 분석을 가능하게 하였다.
• DP 출력에 내재된 노이즈를 고려한 성능 최적화 기법이 통신 및 계산 오버헤드를 크게 감소시켰다.
• 보안 모델은 신뢰할 수 없는 서버가 최종 노이즈 있는 출력 이외의 정보를 전혀 알 수 없음을 보장하여, 계산 능력이 제한된 공격자에 대해 공식적인 차별적 비밀보장 보장을 제공한다.
• 실증 평가 결과, Cryptε는 강력한 개인정보 보장을 유지하면서도 전통적인 DP 구현 대비 경쟁 가능한 성능을 제공하는 것으로 확인되었다.