[논문 리뷰] Synthesizing Coupling Proofs of Differential Privacy

Aws Albarghouthi, Justin Hsu|arXiv (Cornell University)|2017. 09. 15.

Privacy-Preserving Technologies in Data인용 수 16

한 줄 요약

이 논문은 $ε$-차별적 비밀리어티를 검증하기 위한 새로운 자동화된 기법을 제안한다. 이 기법은 유한한 비밀리어티 자원을 전략적으로 소비하는 게임 이론적 접근 방식인 커플링 전략을 활용한다. 문제를 호른 모듈로 커플링(HMC) 제약 조건으로 표현하고, 확률적 제약 조건을 미정의 함수를 사용해 논리적 제약 조건으로 변환함으로써, FairSquare 검증기와 함께 Report Noisy Max, 지수 기반 메커니즘, 스퍼스 벡터 메커니즘과 같은 복잡한 차별적 비밀리어티 알고리즘에 대한 완전 자동 검증을 가능하게 한다.

ABSTRACT

Differential privacy has emerged as a promising probabilistic formulation of privacy, generating intense interest within academia and industry. We present a push-button, automated technique for verifying $\varepsilon$-differential privacy of sophisticated randomized algorithms. We make several conceptual, algorithmic, and practical contributions: (i) Inspired by the recent advances on approximate couplings and randomness alignment, we present a new proof technique called coupling strategies, which casts differential privacy proofs as a winning strategy in a game where we have finite privacy resources to expend. (ii) To discover a winning strategy, we present a constraint-based formulation of the problem as a set of Horn modulo couplings (HMC) constraints, a novel combination of first-order Horn clauses and probabilistic constraints. (iii) We present a technique for solving HMC constraints by transforming probabilistic constraints into logical constraints with uninterpreted functions. (iv) Finally, we implement our technique in the FairSquare verifier and provide the first automated privacy proofs for a number of challenging algorithms from the differential privacy literature, including Report Noisy Max, the Exponential Mechanism, and the Sparse Vector Mechanism.

연구 동기 및 목표

• 표준 조합 정리 이외의 고도화된 차별적 비밀리어티 알고리즘의 자동 검증 도전 과제를 해결하기 위해.
• 차별적 비밀리어티에서 커플링 증명을 체계적이고 자동화된 방법으로 구성함으로써 수동적이고 상호작용적인 증명 구축에 대한 의존도를 줄이기 위해.
• 이전에 잘못되거나 불완전한 증명을 겪었던 Report Noisy Max 및 스퍼스 벡터 메커니즘과 같은 복잡한 메커니즘의 검증을 가능하게 하기 위해.
• 근사 커플링 및 무작위성 정렬과 같은 고급 증명 기법들과 제약 기반 합성 기반 자동 검증 간 격차를 메우기 위해.
• 미래의 자동 비밀리어티 검증을 $(\varepsilon,\delta)$-차별적 비밀리어티 및 기타 확률적 상대적 성질로 확장하기 위한 기반을 마련하기 위해.

제안 방법

• 모든 입력 쌍이 한 레코드만 다를 경우에 대해 비밀리어티를 보호하는 전략이 반드시 승리해야 하는 게임 이론적 프레임워크로서 커플링 전략을 도입한다.
• 일阶 논리 호른 절과 확률적 커플링 조건을 결합한 호른 모듈로 커플링(HMC) 제약 조건의 집합으로 검증 문제를 공식화한다.
• 미정의 함수를 사용해 확률적 제약 조건을 논리적 제약 조건으로 변환함으로써 기존 호른 절 해석기와의 통합을 가능하게 한다.
• 프로그램 합성 및 불변 생성 기법을 활용해 후보 커플링 전략을 반복적으로 개선하는 합성-검증 루프를 구현한다.
• FairSquare 검증기에서 이 접근 방식을 구현하여 어려운 차별적 비밀리어티 알고리즘에 대한 종단 간 자동 증명을 가능하게 한다.
• 스코렘 관계의 템플릿 기반 제약 조건을 사용해 유효한 커플링 가족을 보장하고 합성된 전략의 정확성을 강제한다.

실험 결과

연구 질문

• RQ1 표준 조합 정리 이외의 복잡한 랜덤 알고리즘에 대해 $ε$-차별적 비밀리어티를 완전 자동으로 검증할 수 있는 기법을 개발할 수 있는가?
• RQ2 차별적 비밀리어티 기반의 커플링 증명을 자동 합성에 적합한 제약 조건으로 체계적으로 표현할 수 있는가?
• RQ3 커플링 증명 내의 확률적 제약 조건을 미정의 함수를 사용해 효과적으로 논리적 제약 조건으로 변환할 수 있는가? 이는 확장 가능한 검증에 기여하는가?
• RQ4 기존 호른 절 해석기가 차별적 비밀리어티와 같은 확률적 상대적 성질을 다룰 수 있도록 얼마나 확장될 수 있는가?
• RQ5 현재 자동 기법들이 $(\varepsilon,\delta)$-차별적 비밀리어티 검증에서 겪는 한계는 무엇이며, 이를 어떻게 극복할 수 있는가?

주요 결과

• 제안된 HMC 제약 체계는 차별적 비밀리어티 증명을 합성 문제로 성공적으로 표현하여 표준 호른 절 해석을 통한 자동화를 가능하게 한다.
• FairSquare 검증기는 Report Noisy Max, 지수 기반 메커니즘, 스퍼스 벡터 메커니즘에 대해 자동 증명을 성공적으로 생성하였다. 이들은 이전에 미묘하거나 잘못된 증명을 겪었던 알고리즘이다.
• 확률적 제약 조건을 미정의 함수를 사용해 논리적 제약 조건으로 변환함으로써 커플링 가족에 대한 확장 가능하고 타당한 추론이 가능해진다.
• 이전의 반자동 시스템인 LightDP에 비해 제품 프로그램 구성에서 수동으로 제공된 루프 불변 조건이 필요 없어지므로 성능상의 우월성을 보였다.
• 이 방법은 커플링 전략을 체계적으로 합성할 수 있음을 보여주며, 상대적 프로그램 논리에서 상호작용적 증명 구축에 대한 확장 가능한 대안을 제공한다.
• 이 연구는 향후 $(\varepsilon,\delta)$-차별적 비밀리어티 및 균일성, 독립성과 같은 기타 확률적 상대적 성질의 자동 검증 기반을 마련한다.