[論文レビュー] Differential Private Noise Adding Mechanism and Its Application on Consensus

Jianping He, Lin Cai|arXiv (Cornell University)|Nov 27, 2016

Privacy-Preserving Technologies in Data参考文献 7被引用数 4

ひとこと要約

本稿は、ランダムなノイズを追加するメカニズムにおける微分プライバシーを分析する一般化された理論的枠組みを提案する。これは、$\epsilon$-微分プライバシーの必要十分条件と、$(\epsilon,\delta)$-微分プライバシーの十分条件を確立する。また、任意のプライバシー保護型コンSENSUSアルゴリズムにおいて、平均コンセンサスと$\epsilon$-微分プライバシーを同時に達成することは不可能であることを証明し、ラプラス分布やガウス分布に限定されない任意のノイズ分布の分析に統一的なツールを提供する。

ABSTRACT

Differential privacy is a formal mathematical {stand-ard} for quantifying the degree of that individual privacy in a statistical database is preserved. To guarantee differential privacy, a typical method is adding random noise to the original data for data release. In this paper, we investigate the conditions of differential privacy considering the general random noise adding mechanism, and then apply the obtained results for privacy analysis of the privacy-preserving consensus algorithm. Specifically, we obtain a necessary and sufficient condition of $ε$-differential privacy, and the sufficient conditions of $(ε, δ)$-differential privacy. We apply them to analyze various random noises. For the special cases with known results, our theory matches with the literature; for other cases that are unknown, our approach provides a simple and effective tool for differential privacy analysis. Applying the obtained theory, on privacy-preserving consensus algorithms, it is proved that the average consensus and $ε$-differential privacy cannot be guaranteed simultaneously by any privacy-preserving consensus algorithm.

研究の動機と目的

• ランダムなノイズ追加メカニズムが微分プライバシーを保証する一般条件を確立すること。
• ラプラス分布やガウス分布に限定されない、任意のノイズ分布に適用可能な統一的な分析ツールを提供すること。
• プライバシー保護型コンセンサスアルゴリズムにおけるプライバシーと精度のトレードオフを分析すること。
• 平均コンセンサスと$\epsilon$-微分プライバシーを同時に達成することは不可能であることを証明すること。
• ノイズ分布の特性に基づいて、プライバシーパラメータ$\epsilon$および$\delta$の上界を推定すること。

提案手法

• ノイズ分布の確率密度関数の比に基づいて、$\epsilon$-微分プライバシーの必要十分条件を導出する。
• 尾確率の上限とノイズ分布の性質を用いて、$(\epsilon,\delta)$-微分プライバシーの十分条件を確立する。
• 理論的枠組みをラプラス分布、ガウス分布、一様分布に適用し、既知の結果を確認するとともに、未知のケースにまで拡張する。
• 得られた条件を用いて、微分プライバシーの必要条件とコンセンサス収束の条件を比較することで、プライバシー保護型コンセンサスアルゴリズムを分析する。
• 感度とノイズ分布の数学的分析を用いて、$\epsilon$および$\delta$の上限を導出する。
• 背理法を用いて、平均コンセンサスと$\epsilon$-微分プライバシーを同時に達成することは不可能であることを示す。

実験結果

リサーチクエスチョン

• RQ1 ノイズ分布にどのような条件下で、ランダムなノイズ追加メカニズムが$\epsilon$-微分プライバシーを保証するか？
• RQ2 ノイズメカニズムが$(\epsilon,\delta)$-微分プライバシーを達成するための十分条件は何か？
• RQ3 提案された枠組みは、ラプラス分布やガウス分布に限定されない任意のノイズ分布を分析できるか？
• RQ4 コンセンサスアルゴリズムにおいて、平均コンセンサスと$\epsilon$-微分プライバシーを同時に達成することは可能か？
• RQ5 ノイズ分布のパラメータは、$\epsilon$および$\delta$の上界にどのように影響するか？

主な発見

• $\epsilon$-微分プライバシーの必要十分条件が、隣接するデータポイントにおけるノイズ確率密度関数の比に基づいて導出された。
• 尾確率の上限とノイズ分布の特性を用いて、$(\epsilon,\delta)$-微分プライバシーの十分条件が確立された。
• 枠組みにより、ラプラスノイズが$\epsilon$-微分プライバシーを達成し、ガウスノイズが$(\epsilon,\delta)$-微分プライバシーを達成することが確認され、従来の結果と整合的である。
• 一様ノイズが$(0,\delta)$-微分プライバシーに該当することが、提案された枠組みのもとで示された。これは、新たな発見である。
• いかなるプライバシー保護型コンセンサスアルゴリズムにおいても、平均コンセンサスと$\epsilon$-微分プライバシーを同時に達成することは不可能であることが証明された。
• ノイズ分布のパラメータに基づいて、$\epsilon$および$\delta$の上界が推定され、定量的なプライバシーと精度のトレードオフ分析が可能になった。