[論文レビュー] Outis: Crypto-Assisted Differential Privacy on Untrusted Servers

Amrita Roy Chowdhury, Chenghong Wang+3 more|arXiv (Cornell University)|Feb 20, 2019

Privacy-Preserving Technologies in Data被引用数 22

ひとこと要約

Cryptεは、信頼できるデータ収集者を必要とせずに中央モデルの精度と表現力を実現する暗号支援型微分プライバシー方式を提案する。これは、2つの協力しない不正なサーバーを用いて暗号化されたデータ上で計算を実行することで実現される。この方式により、自動的に論理的DPプログラムをプライバシー保護型セキュアプロトコルにコンパイルすることで、安全かつ効率的なDP分析が可能となり、強固なセキュリティ保証が得られる。

ABSTRACT

Differential privacy (DP) has steadily become the de-facto standard for achieving privacy in data analysis, which is typically implemented either in the or model. The local model has been more popular for commercial deployments as it does not require a trusted data collector. This increased privacy, however, comes at a cost of utility and algorithmic expressibility as compared to the central model. In this work, we propose, Crypt$\epsilon$, a system and programming framework that (1) achieves the accuracy guarantees and algorithmic expressibility of the central model (2) without any trusted data collector like in the local model. Crypt$\epsilon$ achieves the best of both worlds by employing two non-colluding untrusted servers that run DP programs on encrypted data from the data owners. Although straightforward implementations of DP programs using secure computation tools can achieve the above goal theoretically, in practice they are beset with many challenges such as poor performance and tricky security proofs. To this end, Crypt$\epsilon$ allows data analysts to author logical DP programs that are automatically translated to secure protocols that work on encrypted data. These protocols ensure that the untrusted servers learn nothing more than the noisy outputs, thereby guaranteeing DP (for computationally bounded adversaries) for all Crypt$\epsilon$ programs. Crypt$\epsilon$ supports a rich class of DP programs that can be expressed via a small set of transformation and measurement operators followed by arbitrary post-processing. Further, we propose performance optimizations leveraging the fact that the output is noisy. We demonstrate Crypt$\epsilon$'s feasibility for practical DP analysis with extensive empirical evaluations on real datasets.

研究の動機と目的

• 微分プライバシーにおける中央モデルの高効用とローカルモデルの強固な信頼性のギャップを埋めること。
• 信頼できるデータ収集者を必要とせずに、信頼できないサーバー上でDPプログラムを実用的で効率的かつ安全に実行できること。
• 高水準プログラミングフレームワークを通じて、セキュアコンピューティングプロトコルにコンパイル可能な、包括的なDPワークロードをサポートすること。
• 暗号化データ上のセキュアコンピューティングによるDPの展開における、パフォーマンスとセキュリティ証明の課題を解決すること。
• 実世界のデータセットを用いた広範な実験的評価を通じて、このアプローチの実現可能性と効率性を示すこと。

提案手法

• Cryptεは、データ所有者から得た暗号化されたデータを、2つの協力しない不正なサーバーが共同で処理することで、各サーバーが最終的なノイズあり出力よりも多くを学習しないように保証する。
• 変換および測定演算子を用いて記述された高水準の論理的DPプログラムを、微分プライバシーを保持するセキュアコンピューティングプロトコルにコンパイルする。
• ホモモーティック暗号とセキュアマルチパーティコンピューティング技術を活用し、計算量的に制限された攻撃者に対してもプライバシーを維持したまま、暗号化されたデータ上で計算を実行できる。
• DPプログラムの出力が本質的にノイズを含むという事実を活用したパフォーマンス最適化を導入し、余分な計算や通信を削減する。
• 不正なサーバーが中間データや生データではなく、最終的なノイズあり出力のみを学習することを保証することで、エンドツーエンドの微分プライバシーを実現する。
• 最終出力に対して任意のポストプロセッシングを可能にし、元の計算のプライバシー保証を維持する。

実験結果

リサーチクエスチョン

• RQ1 信頼できるデータ収集者を必要とせずに、中央モデルの精度と表現力を達成できるか？
• RQ2 暗号化されたデータ上のセキュアコンピューティングを、実世界のDPワークロードに効率的かつ実用的に行えるか？
• RQ3 信頼できないサーバーを有するシステムにおいて、計算量的に制限された攻撃者を想定した強固なプライバシー保証を確保できるか？
• RQ4 DPの出力が本質的にノイズを含むという性質を活かした最適化は、どのようなものがあるか？
• RQ5 高水準のDPプログラミングフレームワークを自動的にセキュアでプライバシー保護型プロトコルにコンパイルできるか？

主な発見

• Cryptεは、信頼できるデータ収集者を排除することで、中央モデルの精度と表現力、ローカルモデルの信頼性を両立させることに成功した。
• 実データセット上での実験により、DPのセキュアコンピューティングが実世界の展開に十分なほど効率的であることが示された。
• 変換および測定演算子の少数を用いて、広範なDPプログラムのクラスをサポートする。これにより、表現力がありながらも安全な分析が可能になった。
• DP出力に内在するノイズを活用したパフォーマンス最適化により、通信量と計算コストが顕著に削減された。
• セキュリティモデルにより、不正なサーバーが最終的なノイズあり出力以外の情報を一切学習しないことが保証され、計算量的に制限された攻撃者を想定した形式的な微分プライバシー保証が得られた。
• 実験的評価により、Cryptεは強固なプライバシーを維持しながら、従来のDP実装と比較して競争力のあるパフォーマンスを発揮することが確認された。