[論文レビュー] The Optimal Mechanism in Differential Privacy: Multidimensional Setting

Quan Geng, Pramod Viswanath|arXiv (Cornell University)|Dec 2, 2013

Privacy-Preserving Technologies in Data参考文献 19被引用数 11

ひとこと要約

この論文は、$ε$-differential privacy フレームワーク下で、$ε$-differential privacy と $ε$-differential privacy を満たす二重次元実数値クエリ関数に対する最適な $ε$-差分プライバシー機構を導出する。最適なノイズ分布は相関のある多次元段差型確率密度関数であり、低プライバシー領域（$ϵ \to \infty$）においてラプラシアン機構を著しく上回り、コストを $ϵ(ϵ/3})$ にまで低減する。結果として、単一次元から多次元設定へと段差機構の最適性が拡張される。

ABSTRACT

We derive the optimal $ε$-differentially private mechanism for a general two-dimensional real-valued (histogram-like) query function under a utility-maximization (or cost-minimization) framework for the $\ell^1$ cost function. We show that the optimal noise probability distribution has a correlated multidimensional staircase-shaped probability density function. Compared with the Laplacian mechanism, we show that in the high privacy regime (as $ε o 0$), the Laplacian mechanism is approximately optimal; and in the low privacy regime (as $ε o +\infty$), the optimal cost is $Θ(e^{-\fracε{3}})$, while the cost of the Laplacian mechanism is $\frac{2Δ}ε$, where $Δ$ is the sensitivity of the query function. We conclude that the gain is more pronounced in the low privacy regime. We conjecture that the optimality of the staircase mechanism holds for vector-valued (histogram-like) query functions with arbitrary dimension, and holds for many other classes of cost functions as well.

研究の動機と目的

• 二重次元のヒストグラム型クエリ関数に対して、$ε$-差分プライバシー枠組み下での最適ノイズ分布を特定すること。
• 従来、単一次元クエリに対して確立された段差機構の最適性を二重次元設定へと拡張すること。
• $ε$-差分プライバシー枠組み下で、期待される $ε$-差分プライバシーコストを最小化すること。
• プライバシー領域にわたる最適段差機構とラプラシアン機構との性能差を分析すること。
• 段差機構が高次元ベクトル値クエリおよび他のコスト関数に対しても最適であると予想すること。

提案手法

• 差分プライバシー下での効用最大化（コスト最小化）フレームワークを用いて最適機構を導出する。
• 二重次元クエリに対して、最適ノイズ分布が相関のある多次元段差型確率密度関数であることを特徴づける。
• スケーリングおよび変換技術を用いて、区分的定数密度を持つ候補分布への探索空間を制限する。
• 補題を用いて、任意の非最適分布をコストを増加させずに段差構造を持つものに変換できることを示す。
• ステップ数 $i \to \infty$ における漸近的解析を用いて、連続的な多次元段差密度への収束を示す。
• しきい値 $k$ でパラメータ化された段差分布族に対する最適化により、下界コストを確立する。

実験結果

リサーチクエスチョン

• RQ1 二重次元実数値クエリ関数に対して、$ε$-差分プライバシー枠組み下で最適なノイズ分布は何か？
• RQ2 最適段差機構の性能は、高プライバシー領域および低プライバシー領域においてラプラシアン機構と比べてどうか？
• RQ3 段差機構の最適性は、単一次元から多次元クエリ関数へと拡張可能か？
• RQ4 高次元における最適ノイズ分布を特徴づける構造的性質（例：相関、区分的定数性）は何か？
• RQ5 段差機構は、$ε$-差分プライバシー枠組みを超えた他のコスト関数に対しても最適であるか？

主な発見

• 二重次元クエリに対する最適ノイズ分布は、相関のある多次元段差型確率密度関数である。
• 高プライバシー領域（$\epsilon \to 0$）では、ラプラシアン機構は最適に近い性能を示し、段差機構と同等の性能を達成する。
• 低プライバシー領域（$\epsilon \to \infty$）では、最適コストは $\Theta(e^{-\epsilon/3})$ であり、ラプラシアン機構の $\frac{2\Delta}{\epsilon}$ より著しく優れている。
• 各成分に独立した段差ノイズを加える合成機構は、コスト $\Theta(e^{-\epsilon/4})$ を示し、最適な $\Theta(e^{-\epsilon/3})$ よりも劣る。
• 最適機構とラプラシアン機構との性能差は、低プライバシー領域で最も顕著に現れる。
• 著者らは、段差機構が任意次元のベクトル値クエリおよび広範なコスト関数のクラスに対しても最適であると予想している。