[論文レビュー] Inherit Differential Privacy in Distributed Setting: Multiparty Randomized Function Computation

Genqiang Wu, Yeping He+2 more|arXiv (Cornell University)|Apr 11, 2016

Privacy-Preserving Technologies in Data参考文献 38被引用数 4

ひとこと要約

本稿は、『無関心性』（obliviousness）という概念を導入することで、マルチパーティ計算における微分プライバシーの継承を形式的フレームワークとして確立した。これは、分散環境における確率的関数を安全に計算するための必要十分条件である。本稿は、あるプロトコルが微分プライバシーを満たす関数を安全に計算する場合、その関数のプライバシー保証を継承することを証明し、XORベースの秘密分散とモジュラ演算を用いた安全な乱数生成を活用して、ガウス、ラプラス、指数機構といった基本的メカニズムのための効率的かつ証明可能に安全なプロトコルを構築した。

ABSTRACT

How to achieve differential privacy in the distributed setting, where the dataset is distributed among the distrustful parties, is an important problem. We consider in what condition can a protocol inherit the differential privacy property of a function it computes. The heart of the problem is the secure multiparty computation of randomized function. A notion \emph{obliviousness} is introduced, which captures the key security problems when computing a randomized function from a deterministic one in the distributed setting. By this observation, a sufficient and necessary condition about computing a randomized function from a deterministic one is given. The above result can not only be used to determine whether a protocol computing differentially private function is secure, but also be used to construct secure one. Then we prove that the differential privacy property of a function can be inherited by the protocol computing it if the protocol privately computes it. A composition theorem of differentially private protocols is also presented. We also construct some protocols to generate random variate in the distributed setting, such as the uniform random variates and the inversion method. By using these fundamental protocols, we construct protocols of the Gaussian mechanism, the Laplace mechanism and the Exponential mechanism. Importantly, all these protocols satisfy obliviousness and so can be proved to be secure in a simulation based manner. We also provide a complexity bound of computing randomized function in the distribute setting. Finally, to show that our results are fundamental and powerful to multiparty differential privacy, we construct a differentially private empirical risk minimization protocol.

研究の動機と目的

• マルチパーティプロトコルが計算する関数の微分プライバシー特性をどの条件下で継承できるかを特定すること。
• 相互に信頼できない参加者がデータを分散保有する分散環境において、確率的関数を安全に計算する課題に対処すること。
• 出力だけでなく、プロトコル実行中の中間視点に対してもプライバシーが保たれるよう、形式的なセキュリティモデルを確立すること。
• マルチパーティ設定におけるコアな微分プライバシー機構（ガウス、ラプラス、指数）の実用的で安全なプロトコルを構築すること。
• 分散システムにおける確率的関数の計算の複雑度を境界づけ、実世界の問題である微分プライバシーを適用した経験的リスク最小化にその手法を適用すること。

提案手法

• 分散環境において決定的プロトコルを確率的関数を安全に計算するものに変換する際の核心的セキュリティ課題を捉えるために『無関心性』の概念を導入した。
• プロトコルが無関心性条件を満たす場合に限り、微分プライバシーが継承されることを証明し、確率的関数の安全なマルチパーティ計算の必要十分条件を確立した。
• XORベースの秘密分散とモジュラ算術を用いて、一様および非一様な乱数変数を安全に生成するマルチパーティプロトコルを開発し、プライバシーと正しさを保証した。
• 乱数変数生成プロトコルと安全な関数評価を組み合わせることで、ガウス、ラプラス、指数機構の基盤プロトコルを構築した。
• シミュレーションに基づくセキュリティ証明を用いて、すべての構築されたプロトコルが微分プライバシーを満たし、個々の入力のプライバシーを維持していることを検証した。
• 確率的関数の安全な計算の複雑度に対して境界を提示し、参加者数および入力サイズの増加に伴い、この手法が効率的にスケーリングできることを示した。

実験結果

リサーチクエスチョン

• RQ1 マルチパーティプロトコルが、個々の入力に関する情報を漏らさずに、微分プライバシーを満たす関数を安全に計算できる条件は何か？
• RQ2 確率的関数を計算するプロトコルが、元の関数の微分プライバシーを保つために必要な形式的セキュリティ条件は何か？
• RQ3 分散型マルチパーティ環境において、微分プライバシー機構をサポートするために、どのように安全な乱数変数生成を実現できるか？
• RQ4 微分プライバシーを満たすプロトコルの合成を形式的に分析し、マルチパーティ設定でもプライバシーが保証されるか？
• RQ5 経験的リスク最小化のような複雑な微分プライバシー計算を、分散環境における安全でモジュラーなコンポーネントから構築できるか？

主な発見

• 本稿は、プロトコルが計算する関数の微分プライバシーを継承するための必要十分条件として、『無関心性』条件を形式的に確立した。この条件は、いかなる参加者も他の参加者の入力に関する情報を漏らさないという要件を形式化したものである。
• XORベースの秘密分散を用いた一様乱数変数生成の安全なプロトコルを構築し、出力が一様分布に従いかつプライベートであることを保証した。
• 安全な乱数変数生成とMPCを組み合わせることで、ガウス、ラプラス、指数機構の証明可能に安全なプロトコルを構築した。これらはすべて無関心性条件を満たしている。
• マルチパーティ設定における微分プライバシーを満たすプロトコルの合成定理を提示し、複雑な微分プライバシー計算のモジュラー構築を可能にした。
• 提案された基本的ツールを用いて、微分プライバシーを適用した経験的リスク最小化プロトコルを成功裏に構築し、本フレームワークの実用的応用可能性を示した。
• 分散環境における確率的関数の計算の理論的複雑度が境界づけられ、参加者数および入力サイズの増加に伴い、この手法が効率的にスケーリングできることを示した。