[論文レビュー] Synthesizing Coupling Proofs of Differential Privacy

Aws Albarghouthi, Justin Hsu|arXiv (Cornell University)|Sep 15, 2017

Privacy-Preserving Technologies in Data被引用数 16

ひとこと要約

本稿では、有限のプライバシー資源を戦略的に消費する、ゲーム理論的定式化に基づくプライバシー証明のための、新たな自動化手法を提示する。この手法は、問題を Horn modulo Couplings (HMC) 制約として定式化し、未解釈関数を用いて確率的制約を論理的制約に変換することで、Report Noisy Max や指数的メカニズム、スパースベクタメカニズムといった複雑な微分プライバシーのアルゴリズムを、FairSquare 验証ツールを用いて完全に自動的に検証可能にする。

ABSTRACT

Differential privacy has emerged as a promising probabilistic formulation of privacy, generating intense interest within academia and industry. We present a push-button, automated technique for verifying $\varepsilon$-differential privacy of sophisticated randomized algorithms. We make several conceptual, algorithmic, and practical contributions: (i) Inspired by the recent advances on approximate couplings and randomness alignment, we present a new proof technique called coupling strategies, which casts differential privacy proofs as a winning strategy in a game where we have finite privacy resources to expend. (ii) To discover a winning strategy, we present a constraint-based formulation of the problem as a set of Horn modulo couplings (HMC) constraints, a novel combination of first-order Horn clauses and probabilistic constraints. (iii) We present a technique for solving HMC constraints by transforming probabilistic constraints into logical constraints with uninterpreted functions. (iv) Finally, we implement our technique in the FairSquare verifier and provide the first automated privacy proofs for a number of challenging algorithms from the differential privacy literature, including Report Noisy Max, the Exponential Mechanism, and the Sparse Vector Mechanism.

研究の動機と目的

• 標準の合成定理を超えた洗練された微分プライバシーのアルゴリズムの自動検証の課題に対処すること。
• 微分プライバシーにおけるカップリング証明を体系的かつ自動化された方法で構築するための手法を開発し、手作業による対話的証明構築に依存するのを減らすこと。
• Report Noisy Max やスパースベクタメカニズムのような複雑なメカニズムの検証を可能にし、それらは過去に誤りや不完全な証明を経験していること。
• 近似カップリングやランダムネスアライメントといった高度な証明技法と、制約に基づく合成による自動検証の間のギャップを埋めること。
• 今後の $(\varepsilon,\delta)$-微分プライバシーおよびその他の確率的関係的性質の自動検証への基盤を築くこと。

提案手法

• プライバシー保護戦略が、1レコードの差異を持つすべての入力ペアに対して勝利しなければならないというゲーム理論的枠組みとして、カップリング戦略を導入する。
• 一階述語論理の Horn 節と確率的カップリング条件を組み合わせた、Horn modulo Couplings (HMC) 制約の集合として検証問題を定式化する。
• 未解釈関数を用いて確率的制約を論理的制約に変換し、既存の Horn 節ソルバーとの統合を可能にする。
• プログラム合成と不変式生成の技術を活用して、反復的に候補となるカップリング戦略を精錬する「合成して検証する」ループを採用する。
• FairSquare 適証ツールにこのアプローチを実装し、挑戦的な微分プライバシーのアルゴリズムに対するエンドツーエンドの自動証明を可能にする。
• スコーレム関係のテンプレートベース制限を用いて、有効なカップリング族を保証し、合成戦略の正しさを強制する。

実験結果

リサーチクエスチョン

• RQ1 標準の合成定理を超える複雑な確率的アルゴリズムにおける $ε$-微分プライバシーの完全自動検証手法を開発できるか。
• RQ2 微分プライバシーのカップリング証明を、自動合成に適した制約として体系的にエンコードする方法は何か。
• RQ3 カップリング証明における確率的制約を、未解釈関数を用いて効果的に論理的制約に変換できるか。
• RQ4 既存の Horn 節ソルバーは、微分プライバシーのような確率的関係的性質を処理できるようにどの程度拡張可能か。
• RQ5 現在の自動化手法における $(\varepsilon,\delta)$-微分プライバシーの検証における限界は何か。それらはどのように克服できるか。

主な発見

• 提案された HMC 制約システムは、微分プライバシー証明を合成問題として効果的にエンコードし、標準の Horn 節ソルバーによる自動化を可能にした。
• FairSquare 適証ツールは、Report Noisy Max、指数的メカニズム、スパースベクタメカニズムについて、歴史的に微妙なまたは誤った証明を経験したアルゴリズムについても、自動証明を成功させた。
• 未解釈関数を用いた確率的制約の論理的制約への変換により、カップリング族におけるスケーラブルかつ健全な推論が可能になった。
• LightDP らのような従来の半自動システムに比べ、生成された製品プログラムの構築における手動によるループ不変式の提供が不要になった。
• カップリング戦略が体系的に合成可能であることが示され、関係的プログラム論理における対話的証明構築の代替としてスケーラブルな代替手段が得られた。
• 本研究は、今後の $(\varepsilon,\delta)$-微分プライバシーおよび均一性や独立性といった他の確率的関係的性質の自動検証の基盤を確立した。