[論文レビュー] Crypt$\epsilon$: Crypto-Assisted Differential Privacy on Untrusted Servers.

Amrita Roy Chowdhury, Chenghong Wang+3 more|arXiv (Cornell University)|Feb 20, 2019

Privacy-Preserving Technologies in Data参考文献 90被引用数 4

ひとこと要約

Cryptϵは、信頼できないサーバー上で、信頼できるキュレーターが不要な高精度で表現力のある微分プライバシー計算を可能にする暗号支援型微分プライバシー方式である。2つの協力しないサーバー（分析サーバー（AS）と暗号サービスプロバイダー（CSP））を用い、同型暗号とゲート化回路を活用して暗号化されたデータ上でDPプログラムを実行することで、中央モデルの精度と表現力を実現するとともに、安全なマルチパーティ計算により計算的微分プライバシーを確保する。

ABSTRACT

Differential privacy (DP) has steadily become the de-facto standard for achieving privacy in data analysis, which is typically implemented either in the "central" or "local" model. The local model has been more popular for commercial deployments as it does not require a trusted data collector. This increased privacy, however, comes at a cost of utility and algorithmic expressibility as compared to the central model. In this work, we propose, Crypt$\epsilon$, a system and programming framework that (1) achieves the accuracy guarantees and algorithmic expressibility of the central model (2) without any trusted data collector like in the local model. Crypt$\epsilon$ achieves the "best of both worlds" by employing two non-colluding untrusted servers that run DP programs on encrypted data from the data owners. Although straightforward implementations of DP programs using secure computation tools can achieve the above goal theoretically, in practice they are beset with many challenges such as poor performance and tricky security proofs. To this end, Crypt$\epsilon$ allows data analysts to author logical DP programs that are automatically translated to secure protocols that work on encrypted data. These protocols ensure that the untrusted servers learn nothing more than the noisy outputs, thereby guaranteeing DP (for computationally bounded adversaries) for all Crypt$\epsilon$ programs. Crypt$\epsilon$ supports a rich class of DP programs that can be expressed via a small set of transformation and measurement operators followed by arbitrary post-processing. Further, we propose performance optimizations leveraging the fact that the output is noisy. We demonstrate Crypt$\epsilon$'s feasibility for practical DP analysis with extensive empirical evaluations on real datasets.

研究の動機と目的

• 信頼できるデータキュレーターに依存せずに、中央微分プライバシー（CDP）の高精度とローカル微分プライバシー（LDP）の高いプライバシー性の両立を図ること。
• データアナリストがCDPに似たスタイルで論理的なDPプログラムを記述できるようにし、暗号的強制によりエンドツーエンドのプライバシーを保証すること。
• 複雑な変換や後処理を含む、包括的なDPプログラムのクラスをサポートし、形式的なプライバシー保証を提供すること。
• ノイズを含む出力に特化したパフォーマンス最適化を施し、実用的な展開を可能にすること。

提案手法

• Cryptϵは、信頼できないが協力しない2つのサーバー（分析サーバー（AS）と暗号サービスプロバイダー（CSP））を用い、ASは計算を、CSPは暗号 Primitive の管理を担当する。
• 安全な集計には線形同型暗号（LHE）を、非線形演算の安全な評価にはゲート化回路を採用する。
• プログラムは、ラプラスメカニズムやノイズ付きマックス（Noisy-Max）などの少数の変換および測定演算子を用いて記述され、これらは構成上ϵ-DPを保証する。
• ゼロ知識証明（DV NIZK）を用いて、フィルタリングやワンホットエンコーディングなどの操作の正当性を、機密データを漏洩させることなく検証する。
• 任意の後処理とループをサポートし、表現力豊かなデータ分析ワークフローを実現する。
• 出力が本質的にノイズを含むという事実を活用した最適化により、暗号的オーバーヘッドを低減する。

実験結果

リサーチクエスチョン

• RQ1 信頼できるキュレーターが不要な状況でも、中央モデルの精度と表現力を持つ微分プライバシーを実現できるか？
• RQ2 2つの信頼できないサーバーが、機密データをノイズ付き出力以外に漏らさずに、暗号化されたデータ上でDP保護出力を安全に計算できるか？
• RQ3 アナリストが中央モデルに似たスタイルでDPプログラムを記述できる高水準プログラミングフレームワークを設計できるか？
• RQ4 暗号的および最適化技術を用いて、暗号化されたデータ上で安全にDP計算を実行し、実用的かつ効率的に行えるか？

主な発見

• Cryptϵは、信頼できるキュレーターが不要な状況でも、中央モデルの精度保証（例：カウントクエリではΘ(1/ϵ)の誤差）を達成する。
• 本システムは、複雑な変換、条件分岐、ループ、任意の後処理を含む包括的なDPプログラムのクラスをサポートする。
• パフォーマンス評価の結果、Cryptϵは実世界のデータセットでも実用的であることが示され、ノイズを含む出力向けの最適化によりオーバーヘッドが低減されている。
• DV NIZKの使用により、データ整合性とフィルタリングなどの操作の正当性を効率的かつプライバシー保護的に検証できる。
• 2つのサーバーが協力しないという仮定の下で、すべてのプログラムに対して計算的微分プライバシー（SIM-CDP）を提供する。
• CSPを信頼実行環境（TEE）に拡張することで、悪意あるサーバー行動に対しても有界なϵ-DPを保証できる。