[論文レビュー] Differentially Private Mechanisms for Count Queries

Parastoo Sadeghi, Shahab Asoodeh+1 more|arXiv (Cornell University)|Jul 18, 2020

Privacy-Preserving Technologies in Data参考文献 10被引用数 5

ひとこと要約

本稿は、プライバシーと整数出力形式の両方を保つために整数値のノイズを追加する、新しい微分プライバシー機構を提案する。プライバシーとユーティリティのバランスを取るためにノイズ分布のパラメータを最適化することで、同等のユーティリティ条件下で、特に中程度のプライバシー予算における、離散ガウス機構よりもタイトな$(\varepsilon, \delta)$-微分プライバシー境界を達成する。

ABSTRACT

In this paper, we consider the problem of responding to a count query (or any other integer-valued queries) evaluated on a dataset containing sensitive attributes. To protect the privacy of individuals in the dataset, a standard practice is to add continuous noise to the true count. We design a differentially-private mechanism which adds integer-valued noise allowing the released output to remain integer. As a trade-off between utility and privacy, we derive privacy parameters $\eps$ and $δ$ in terms of the the probability of releasing an erroneous count under the assumption that the true count is no smaller than half the support size of the noise. We then numerically demonstrate that our mechanism provides higher privacy guarantee compared to the discrete Gaussian mechanism that is recently proposed in the literature.

研究の動機と目的

• 整数値のノイズを用いて、真のカウント$n$に整数値のノイズを追加することで、出力を整数に保つ微分プライバシー機構の設計。
• プライバシー（$\varepsilon$および$\delta$で測定）とユーティリティ（誤差確率$\eta$で測定）のトレードオフを明示的にバランスさせる。
• 有限なノイズサポートを保証し、微分プライバシー制約下で誤差確率を最小化することで、既存の機構（離散ガウスおよび幾何的機構）を改善すること。
• ノイズ分散と誤差確率が同一の条件下で、離散ガウス機構と比較して優れたプライバシー-ユーティリティ性能を数値的に示すこと。

提案手法

• 真のカウント$n$に、ゼロを中心とするサイズ$2D+1$の有限サポートを持つ整数値のノイズを追加する。
• 誤差確率$\eta$と与えられた$\varepsilon$に対して$\delta$を最小化するように、ノイズ確率を凸最適化フレームワークにより最適化する。
• プライバシーパラメータ$\varepsilon$および$\delta$は、クエリの感度とノイズ分布の尾部挙動に基づいて導出される。
• 最適なノイズ分布は、許容可能な最大誤差確率を表す$\eta \in (0,1)$によってパラメータ化される。
• 微分プライバシーを満たすために、制約付き最適化問題（定義2）を用いて、ノイズ確率の最適係数$\alpha_i^*$を計算する。
• ノイズ分散$\sigma^2(\eta, D, \varepsilon)$と誤差確率$\eta$を一致させ、[12]の定理7を用いて、結果として得られる$\delta$値を評価することで、離散ガウス機構と性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 整数値のカウントクエリ用に、出力を常に整数に保ちながら、強力なプライバシー保証を維持できる微分プライバシー機構を設計できるか？
• RQ2 整数値ノイズ機構において、プライバシー（$\varepsilon, \delta$）とユーティリティ（誤差確率$\eta$）のトレードオフを明示的に最適化する方法は何か？
• RQ3 有限サポートを持つ整数ノイズ機構は、無限サポートを持つ離散ガウス機構よりもプライバシー-ユーティリティトレードオフにおいて優れているか？
• RQ4 ノイズサポートサイズ$D$と誤差確率$\eta$が、得られる$\varepsilon$および$\delta$パラメータに与える影響は何か？

主な発見

• D=8の場合、提案機構は$\eta = 0.5$で$(1.1, 10^{-3})$-DPを達成し、$\eta = 0.8$で$(2.2, 5 \times 10^{-7})$-DPを達成する。これは、よりタイトなプライバシー境界を示している。
• ノイズ分散と誤差確率$\eta$が同一の条件下で、提案機構は離散ガウス機構よりも優れた$(\varepsilon, \delta)$-DP性能を示す。
• 数値結果から、提案機構は幅広いプライバシーパラメータ範囲で離散ガウス機構を上回ることが示され、特に$\varepsilon < 1.1$の範囲では、後者の方が著しく性能が低い。
• 最適なノイズ分布は凸最適化により導出され、与えられた$\varepsilon$および$\eta$に対して$\delta$を最小化し、$D$および$\eta$に明示的な依存関係を持つ。
• 本機構は整数出力を維持し、有限なノイズサポートを持つ。これにより、高プライバシー領域において他の機構が直面する極端な出力（例：$Y=0$ または $Y=\max n$）のリスクを回避する。