[논문 리뷰] Privacy-Preserving Transactions with Verifiable Local Differential Privacy

Movsowitz Davidow, Danielle, Manevich, Yacov외 1명|arXiv (Cornell University)|2022. 08. 18.

Privacy-Preserving Technologies in Data인용 수 3

한 줄 요약

이 논문은 검증 가능한 차별적 비밀유지(VDP)를 소개한다. VDP는 신뢰할 수 있는 캘린더 또는 다중 당사자 계산(MPC) 서버가, 차별적 비밀유지(DP) 통계가 정확한 비밀 잡음으로 정직하게 계산되었음을 보장하는 Zero-Knowledge 증명을 공개할 수 있도록 하는 프레임워크이다. 이 방법은 비밀 랜덤니스와 공개 랜덤니스를 조합하여 강력한 비밀유지와 공개 검증 가능성을 동시에 달성하며, 활성 대상자 모델에서 검증 가능한 DP를 구현하기 위해 계산 가정이 필수적임을 증명한다.

ABSTRACT

Differential Privacy (DP) is often presented as a strong privacy-enhancing technology with broad applicability and advocated as a de-facto standard for releasing aggregate statistics on sensitive data. However, in many embodiments, DP introduces a new attack surface: a malicious entity entrusted with releasing statistics could manipulate the results and use the randomness of DP as a convenient smokescreen to mask its nefariousness. Since revealing the random noise would obviate the purpose of introducing it, the miscreant may have a perfect alibi. To close this loophole, we introduce the idea of extit{Verifiable Differential Privacy}, which requires the publishing entity to output a zero-knowledge proof that convinces an efficient verifier that the output is both DP and reliable. Such a definition might seem unachievable, as a verifier must validate that DP randomness was generated faithfully without learning anything about the randomness itself. We resolve this paradox by carefully mixing private and public randomness to compute verifiable DP counting queries with theoretical guarantees and show that it is also practical for real-world deployment. We also demonstrate that computational assumptions are necessary by showing a separation between information-theoretic DP and computational DP under our definition of verifiability.

연구 동기 및 목표

• 차별적 비밀유지에서 악성 캘린더가 잡음의 무작위성을 악용하여 결과를 왜곡하면서도 이를 숨길 수 있는 심각한 보안 격차를 해결한다.
• DP로 계산된 통계가 비밀 유지 외에도 제3자가 공개적으로 검증할 수 있도록 하여, 잡음의 오용을 통한 조작을 방지한다.
• 활성 대상자 환경에서 신뢰할 수 있는 캘린더 및 클라이언트-서버 MPC 설정 모두에서 검증 가능한 차별적 비밀유지를 체계화한다. 이는 반만족 모델을 초월한다.
• 정보 이론적 조건 하에서의 검증 가능한 DP는 불가능함을 입증하며, 검증 가능성을 달성하기 위해 계산 가정이 필수적임을 보여준다.
• 이항 분포를 기반으로 한 비밀 잡음과 공개 랜덤니스를 사용하여 실용적인 검증 가능한 DP 카운팅 쿼리(히스토ограм) 프로토콜을 설계하며, 효율성과 정확성을 확보한다.

제안 방법

• 공개하는 실체가 DP 잡음의 생성이 정직하게 이루어졌음을 보여주는 Zero-Knowledge 증명을 출력해야 하는 새로운 보안 모델을 도입한다. 이때 잡음 자체는 노출되지 않는다.
• 사용자 입력에서 유래한 비밀 랜덤니스와 신뢰할 수 있는 소스에서 온 공개 랜덤니스를 조합하여, 신뢰할 수 있는 캘린더 모델에서 검증 가능한 DP 히스토ограм을 계산한다.
• 독립적인 베르누이 시행에서 구성된 이항 분포를 잡음 소스로 사용하여 통계적 검증을 통해 효율적인 검증을 가능하게 한다.
• 클라이언트가 입력을 비밀 공유하고 서버들이 공동으로 DP 히스토ограм을 계산하며 검증 가능한 증명을 생성하는 K ≥ 2개의 서버로 구성된 다중 당사자 계산(MPC) 프로토콜을 설계한다.
• SNARKs 또는 유사한 Zero-Knowledge 증명 시스템을 활용하여, 비밀 데이터나 잡음을 폭 드러내지 않은 채로 DP 계산의 정확성을 효율적으로 검증할 수 있도록 한다.
• 정보 이론적 가정 하에서 검증 가능한 DP가 불가능함을 증명하며, 정보 이론적 검증 가능 DP와 계산적 검증 가능 DP 사이의 분리를 확립한다.

실험 결과

연구 질문

• RQ1 악성 캘린더가 DP의 본질적 무작위성을 이용해 잡음의 조작을 시도하면서도 이를 감추며 집계 통계를 왜곡할 수 있는가?
• RQ2 사용자 비밀유지가 손상되지 않도록 하면서도, 잡음 생성의 정확성이 제3자에 의해 공개적으로 검증 가능한 DP 프로토콜을 설계할 수 있는가?
• RQ3 활성 대상자 존재 하에서 검증 가능한 차별적 비밀유지를 달성하기 위해 필요한 최소한의密码학적 가정은 무엇인가?
• RQ4 이항 분포와 같은 간단한 잡음 분포로도 검증 가능한 DP를 달성할 수 있는가? 아니면 라플라스 또는 가우시안과 같은 더 복잡한 잡음 분포는 검증이 불가능한가?
• RQ5 불신뢰성 우세 환경에서 MPC를 사용하면 DP 계산의 보안성과 검증 가능성을 동시에 확보할 수 있는가?

주요 결과

• 계산 가정을 기반으로 검증 가능한 차별적 비밀유지는 실현 가능하며, 정보 이론적 조건 하에서의 검증 가능한 DP는 불가능함을 입증한다.
• 제안된 프로토콜은 캘린더가 악성일 경우라도 잡음 생성의 이심을 검증자가 탐지할 수 있음을 보장한다.
• 공개 랜덤니스와 비밀 랜덤니스의 조합은 효율적이고 공개적으로 검증 가능한 DP 카운팅 쿼리를 가능하게 한다.
• 프로토콜은 MPC 전용 접근 방식에서 관찰되는 정확도 저하 없이, 신뢰할 수 있는 캘린더 DP와 동일한 최적의 오차 범위를 유지한다.
• 이 프레임워크는 신뢰할 수 있는 캘린더 및 다중 당사자 계산 환경을 모두 지원하며, 활성 대상자에 대응하고 공개 감사 가능성을 제공한다.
• 논문은 정보 이론적 검증 가능 DP와 계산적 검증 가능 DP 사이의 분리를 확립하며, 실용적 검증 가능성을 달성하기 위해 후자가 필수적임을 보여준다.