[논문 리뷰] Inherit Differential Privacy in Distributed Setting: Multiparty Randomized Function Computation

Genqiang Wu, Yeping He외 2명|arXiv (Cornell University)|2016. 04. 11.

Privacy-Preserving Technologies in Data참고 문헌 38인용 수 4

한 줄 요약

이 논문은 '무관심성(obliviousness)'이라는 개념을 도입함으로써 분산 환경에서 랜덤화 함수를 안전하게 계산하기 위한 조건을 정의함으로써, 다중 당사자 계산에서 미분적 비밀유지의 유산을 보장하는 공식적 프레임워크를 수립한다. 이는 비밀성이 보장되는 프로토콜이 랜덤화된 함수의 비밀유지 보장을 유산으로 이어진다는 것을 증명하며, XOR 기반의 기밀 공유와 모듈로 산술을 사용하여 안전한 무작위 변수 생성을 통해 고전적 메커니즘인 가우시안, 라플라스, 지수 메커니즘에 대한 효율적이고 증명 가능하게 안전한 프로토콜을 구축한다.

ABSTRACT

How to achieve differential privacy in the distributed setting, where the dataset is distributed among the distrustful parties, is an important problem. We consider in what condition can a protocol inherit the differential privacy property of a function it computes. The heart of the problem is the secure multiparty computation of randomized function. A notion \emph{obliviousness} is introduced, which captures the key security problems when computing a randomized function from a deterministic one in the distributed setting. By this observation, a sufficient and necessary condition about computing a randomized function from a deterministic one is given. The above result can not only be used to determine whether a protocol computing differentially private function is secure, but also be used to construct secure one. Then we prove that the differential privacy property of a function can be inherited by the protocol computing it if the protocol privately computes it. A composition theorem of differentially private protocols is also presented. We also construct some protocols to generate random variate in the distributed setting, such as the uniform random variates and the inversion method. By using these fundamental protocols, we construct protocols of the Gaussian mechanism, the Laplace mechanism and the Exponential mechanism. Importantly, all these protocols satisfy obliviousness and so can be proved to be secure in a simulation based manner. We also provide a complexity bound of computing randomized function in the distribute setting. Finally, to show that our results are fundamental and powerful to multiparty differential privacy, we construct a differentially private empirical risk minimization protocol.

연구 동기 및 목표

• 다중 당사자 프로토콜이 계산하는 함수의 미분적 비밀유지 성질을 어떤 조건에서 상속할 수 있는지 규명하는 것.
• 서로 신뢰할 수 없는 당사자들이 데이터를 분할한 분산 환경에서 랜덤화된 함수를 안전하게 계산하는 데 도전하는 것.
• 출력뿐만 아니라 프로토콜 실행 중의 중간 시각(views)에서도 비밀성이 유지됨을 보장하는 공식적 보안 모델을 수립하는 것.
• 다중 당사자 환경에서 핵심적인 미분적 비밀유지 메커니즘(Gaussian, Laplace, Exponential)에 대한 실용적이고 안전한 프로토콜을 개발하는 것.
• 분산 시스템에서 랜덤화된 함수를 계산하는 데 대한 복잡도 한계를 제시하고, 실제 문제인 미분적 비밀유지 경험 위험 최소화에 적용하는 것.

제안 방법

• 다중 당사자 환경에서 결정적 프로토콜을 랜덤화된 함수를 안전하게 계산하는 데 전환할 때의 핵심 보안 과제를 포괄하기 위해 '무관심성'의 개념을 도입한다.
• 프로토콜이 무관심성 조건을 만족할 때에만 그 프로토콜이 미분적 비밀유지를 상속함을 증명함으로써, 랜덤화된 함수의 안전한 다중 당사자 계산을 위한 必要하고도 충분한 조건을 확립한다.
• XOR 기반 기밀 공유와 모듈로 산술을 사용하여 균일 및 비균일 무작위 변수 생성을 위한 안전한 다중 당사자 프로토콜을 개발함으로써 기밀성과 정확성을 보장한다.
• 무작위 변수 생성 프로토콜과 안전한 함수 평가를 조합하여 가우시안, 라플라스, 지수 메커니즘을 위한 기초 프로토콜을 구성한다.
• 모의 기반 보안 증명을 사용하여 모든 구성된 프로토콜이 미분적 비밀유지를 만족하고 개인 입력의 기밀성이 유지됨을 검증한다.
• 랜덤화된 함수의 안전한 계산을 위한 복잡도 한계를 제시하며, 당사자 수와 입력 크기 증가에 따라 방법이 효율적으로 확장됨을 보여준다.

실험 결과

연구 질문

• RQ1 다중 당사자 프로토콜이 개인 입력에 대한 정보를 泄露하지 않고, 계산하는 함수의 미분적 비밀유지를 안전하게 상속할 수 있는 조건은 무엇인가?
• RQ2 랜덤화된 함수를 계산하는 프로토콜이 원래 함수의 미분적 비밀유지를 유지하기 위해 필요한 공식적 보안 조건은 무엇인가?
• RQ3 다중 당사자 환경에서 안전한 무작위 변수 생성은 어떻게 달성할 수 있으며, 이를 통해 미분적 비밀유지 메커니즘이 지원될 수 있는가?
• RQ4 다양한 미분적 비밀유지 프로토콜의 조합을 공식적으로 분석하고, 다중 당사자 환경에서 비밀성이 유지됨을 보장할 수 있는가?
• RQ5 경험 위험 최소화와 같은 복잡한 미분적 비밀유지 계산은 어떻게 분산 환경에서 안전하고 모듈화된 구성 요소들로 구성할 수 있는가?

주요 결과

• 논문은 프로토콜이 계산하는 함수의 미분적 비밀유지를 상속할 수 있음을 보장하는 조건이 오직 '무관심성' 조건을 만족할 때에만 성립함을 수립한다. 이는 어떤 당사자의 시각도 다른 당사자의 입력에 대한 정보를 드러내서는 안 된다는 요구를 형식화한 것이다.
• XOR 기반 기밀 공유를 사용하여 분산 환경에서 균일한 무작위 변수 생성을 위한 안전한 프로토콜을 구성하였으며, 이는 출력이 균일하게 분포하고 기밀성을 유지함을 보장한다.
• 안전한 무작위 변수 생성과 MPC를 조합하여 가우시안, 라플라스, 지수 메커니즘에 대한 증명 가능하게 안전한 프로토콜을 구성하였으며, 모든 프로토콜이 무관심성 조건을 만족한다.
• 다중 당사자 환경에서의 미분적 비밀유지 프로토콜에 대한 조합 정리를 제시하여, 복잡한 미분적 비밀유지 계산을 모듈화된 방식으로 구성할 수 있도록 한다.
• 제안된 기본 도구들을 사용하여 미분적 비밀유지 경험 위험 최소화 프로토콜을 성공적으로 구성하였으며, 이는 프레임워크의 실용적 적용 가능성을 입증한다.
• 분산 환경에서 랜덤화된 함수를 계산하는 데 있어 이론적 복잡도가 한정되어 있음을 보여주며, 당사자 수와 입력 크기 증가에 따라 방법이 효율적으로 확장됨을 입증한다.