[論文レビュー] Concentrated Differential Privacy

Cynthia Dwork, Guy N. Rothblum|arXiv (Cornell University)|Mar 6, 2016

Privacy-Preserving Technologies in Data参考文献 3被引用数 290

ひとこと要約

Concentrated Differential Privacy (CDP) は、プライバシー損失が平均値を中心に厳密に集中するような差分プライバシーの緩和であり、組み合わせ下での精度を向上させつつ累積プライバシー損失の保証を維持する。

ABSTRACT

We introduce Concentrated Differential Privacy, a relaxation of Differential Privacy enjoying better accuracy than both pure differential privacy and its popular "(epsilon,delta)" relaxation without compromising on cumulative privacy loss over multiple computations.

研究の動機と目的

• プライバシーの概念として、純粋な DP および (ε,δ)-DP よりも厳密な組み合わせ保証が必要であることを動機づける。
• Concentrated Differential Privacy を定義し、そのサブガウシアン損失フレームワークを示す。
• CDP が好ましい精度-プライバシーのトレードオフとともに組み合わせを持つことを示す。
• CDP における Gaussian 機構を特性づけし、グループプライバシーの境界を導出する。
• CDP を既存の DP 緩和と比較し、実用的な意味を論じる。

提案手法

• プライバシー損失を確率変数として定義し、その中心化バージョンが subgaussian であることを要求する。
• 損失の平均を μ、中心化損失が τ-subgaussian である (μ,τ)-CDP を導入する。
• 鋭い組み合わせ定理を証明する：CDP 機構は組み合わせに対して (∑μi, √(∑τi^2)) となり、subgaussian の識別不能性を持つ。
• Gaussian 機構を再考し、それが τ^2/2, τ-CDP で τ = Δ(f)/σ であることを証明する。
• CDP の下でのグループプライバシー境界を導出し、Gaussian 機構に対してそれがより厳密であることを示す。
• ε-DP、(ε,δ)-DP へのつながりを論じ、Propose-Test-Release スタイルのアルゴリズムを提案する。

実験結果

リサーチクエスチョン

• RQ1 CDP は同じデータセットに対して複数の解析が行われた場合に正式な保証をどのように提供するか。
• RQ2 (μ,τ)-CDP フレームワークは組み合わせ下での具体的なプライバシー損失の境界へどう翻訳されるか。
• RQ3 CDP の下で Gaussian 機構の正確なプライバシー損失特性はどうなるか。
• RQ4 CDP は従来の DP の概念と比較してグループプライバシー境界にどのような影響を与えるか。
• RQ5 CDP は (ε,δ)-DP と比較してどのような状況で優れた精度-プライバシーのトレードオフを提供するか。

主な発見

• CDP はプライバシー損失を平均 μ と、中心化された部分が τ-サブガウシアン尾を持つ確率変数として形式化する。
• k 回の適応組み合わせの下で、(μi,τi)-CDP 機構の集合は (∑μi, √(∑τi^2))-CDP を与える。
• ノイズ σ を持つ Gaussian 機構は τ = Δ(f)/σ のとき (τ^2/2, τ)-CDP を満たすこと、すなわちプライバシー損失の厳密な特徴付けを与える。
• カウントクエリについて、CDP は同等のプライバシー予算下で従来の DP より高い精度を達成する。
• CDP の下での Gaussian 機構のグループプライバシー境界は、サイズ s のグループに対して ((sΔf/σ)^2/2, sΔf) のスケールになる。
• 組み合わせの下で (ε,0)-DP 機構に対する期待プライバシー損失の既知の境界を 2 倍に改善し、より厳密な有用性/プライバシーのトレードオフを提供する。
• Concentrated privacy は強い組み合わせ結果と整合的であり、多数の解析に対してより良い精度を提供する。