[論文レビュー] Concentrated Differential Privacy: Simplifications, Extensions, and Lower Bounds

Mark Bun, Thomas Steinke|arXiv (Cornell University)|May 6, 2016

Privacy-Preserving Technologies in Data参考文献 8被引用数 65

ひとこと要約

本稿は、サブガウス型プライバシー損失をよりよく捉えるためにリーマン多様体を用いた集中型微分プライバシー（zCDP）を導入する。zCDPは、よりタイトな合成バウンドを提供し、近似微分プライバシーと統合され、プライバシー保護計算のための改善された下界とメカニズムが確立される。

ABSTRACT

"Concentrated differential privacy" was recently introduced by Dwork and Rothblum as a relaxation of differential privacy, which permits sharper analyses of many privacy-preserving computations. We present an alternative formulation of the concept of concentrated differential privacy in terms of the Renyi divergence between the distributions obtained by running an algorithm on neighboring inputs. With this reformulation in hand, we prove sharper quantitative results, establish lower bounds, and raise a few new questions. We also unify this approach with approximate differential privacy by giving an appropriate definition of "approximate concentrated differential privacy."

研究の動機と目的

• 高度な合成定理における扱いにくくタイトでないバウンドの問題を抱える近似微分プライバシーの限界を是正する。
• リーマン多様体を用いた集中型微分プライバシーのより洗練され、解析的に扱いやすい定式化を提供する。
• zCDPと近似微分プライバシーを統合し、異なるプライバシー保証を持つメカニズムの合成を可能にする。
• zCDPにおけるプライバシー損失のよりタイトな下界を確立し、実用的な用途のための改善されたメカニズムを導出する。
• 特にガウスメカニズムと繰り返しクエリワークロードに対して、より鋭い定量的分析を可能にする。

提案手法

• 隣接するデータセットにおける出力分布間のリーマン多様体を用いて集中型微分プライバシーを再定式化し、ゼロ集中型微分プライバシー（zCDP）を定義する。
• zCDPが明示的なプライバシーパラメータのバウンドを伴って微分プライバシーを意味することを証明し、よりタイトな合成解析を可能にする。
• zCDPにおけるガウスメカニズムを導出し、ノイズ追加における最適なプライバシー・ユーティリティトレードオフを達成することを示す。
• zCDPの合成および後処理の性質を確立し、逐次計算における滑らかな劣化を示す。
• 純粋および近似微分プライバシーの両方を一般化する包括的フレームワークとして、近似zCDPを導入する。
• 集中不等式および尾部バウンドを用いて明示的なプライバシー損失バウンドを導出し、特にプライバシー損失のサブガウス性を活用する。

実験結果

リサーチクエスチョン

• RQ1 集中型微分プライバシーをリーマン多様体を用いて再定式化することで、よりタイトで解析的に扱いやすいプライバシー保証が得られるか？
• RQ2 zCDPは、合成とユーティリティの観点から、純粋および近似微分プライバシーと比べてどのように定量的に比較されるか？
• RQ3 zCDPにおけるプライバシー損失の最もタイトな下界は何か？また、それらはメカニズム設計にどのような制約を課えるか？
• RQ4 zCDPは、近似微分プライバシーを含む包括的フレームワークに拡張可能か？
• RQ5 zCDPは、ガウスメカニズムおよび繰り返しクエリワークロードの解析において、どのような改善をもたらすか？

主な発見

• ゼロ集中型微分プライバシー（zCDP）はリーマン多様体を用いて形式的に定義され、平均集中型微分プライバシーの代替として、より洗練され、解析的に強力な選択肢を提供する。
• zCDPにおけるガウスメカニズムは最適なプライバシー・ユーティリティトレードオフを達成し、高度な合成定理を上回るタイトなプライバシー損失バウンドを有する。
• zCDPはよりタイトな合成バウンドを可能にする：k 個のメカニズムが zCDP パrameter ρ を持つ場合、合成は (ε, δ)-DP を満たし、ε ≥ ρ のとき δ は exp(−(ε−ρ)²/(4ρ)) のように減少する。
• 本稿は、純粋および近似微分プライバシーを包含する包括的合成定理を導出し、zCDP および (ε,δ)-DP メカニズムの混合合成を可能にする。
• プライバシー損失の新しい下界が確立され、zCDPの合成効率は著しく向上させることはできないことが示される。
• 結果として、プライバシーパラメータにおける定数因子の節約と、δ における対数項依存性の低減により、高度な合成定理が改善される。