[論文レビュー] Optimal Private Halfspace Counting via Discrepancy

S. Muthukrishnan, Aleksandar Nikolov|arXiv (Cornell University)|Mar 24, 2012

Privacy-Preserving Technologies in Data参考文献 18被引用数 12

ひとこと要約

本稿は、$d$次元空間におけるハーフスペース範囲カウントに対して、$(\varepsilon,\delta)$-微分プライバシーを満たすアルゴリズムを提示し、平均二乗誤差が$O(n^{1-1/d})$ に抑えられ、最適な近似性能を達成する。この手法は、修正された不均衡尺度と組合せ的不均衡理論を活用し、上界と下界が一致することを示し、定数次元におけるプライベートハーフスペースカウントの複雑さを解消する。

ABSTRACT

A range counting problem is specified by a set $P$ of size $|P| = n$ of points in $\mathbb{R}^d$, an integer weight $x_p$ associated to each point $p \in P$, and a range space ${\cal R} \subseteq 2^{P}$. Given a query range $R \in {\cal R}$, the target output is $R(\vec{x}) = \sum_{p \in R}{x_p}$. Range counting for different range spaces is a central problem in Computational Geometry. We study $(ε, δ)$-differentially private algorithms for range counting. Our main results are for the range space given by hyperplanes, that is, the halfspace counting problem. We present an $(ε, δ)$-differentially private algorithm for halfspace counting in $d$ dimensions which achieves $O(n^{1-1/d})$ average squared error. This contrasts with the $Ω(n)$ lower bound established by the classical result of Dinur and Nissim [PODS 2003] for arbitrary subset counting queries. We also show a matching lower bound on average squared error for any $(ε, δ)$-differentially private algorithm for halfspace counting. Both bounds are obtained using discrepancy theory. For the lower bound, we use a modified discrepancy measure and bound approximation of $(ε, δ)$-differentially private algorithms for range counting queries in terms of this discrepancy. We also relate the modified discrepancy measure to classical combinatorial discrepancy, which allows us to exploit known discrepancy lower bounds. This approach also yields a lower bound of $Ω((\log n)^{d-1})$ for $(ε, δ)$-differentially private orthogonal range counting in $d$ dimensions, the first known superconstant lower bound for this problem. For the upper bound, we use an approach inspired by partial coloring methods for proving discrepancy upper bounds, and obtain $(ε, δ)$-differentially private algorithms for range counting with polynomially bounded shatter function range spaces.

研究の動機と目的

• 定数次元における$(\varepsilon,\delta)$-微分プライバシーを満たすハーフスペース範囲カウントの近似複雑度に関する理解のギャップを埋めること。
• 一般の範囲空間に対して既存の$\Omega(n)$の下界を克服し、プライベートハーフスペースカウントにおける平均二乗誤差のタイトな上界と下界を確立すること。
• ハーフスペース範囲空間の幾何的構造を捉える新しい不均衡に基づくフレームワークを構築し、最適なノイズ追加メカニズムを可能にすること。
• 解析を直交範囲カウントに拡張し、この問題に対して初めて知られる超定数下界$\Omega((\log n)^{d-1})$ を得ること。
• 多項式的シャッタ関数を持つ範囲空間にまでこのアプローチを一般化し、部分線形誤差を達成するプライベートアルゴリズムを導出すること。

提案手法

• 著者らは、$(\varepsilon,\delta)$-微分プライバシーに特化した修正不均衡尺度を導入し、古典的組合せ的不均衡と結びつけて下界を導出する。
• 不均衡理論にインspiredされた部分色分け法を用いて、再帰的かつ微分プライベートなメカニズムを設計し、精度を保つようにノイズを追加する。
• メカニズムは点集合を再帰的に分割し、部分問題にノイズを適用する。誤差は再帰的関係式によって制限される。
• 平均二乗誤差は、分散分解と独立なラプラス確率変数の和に対する尾部確率の境界を用いて分析される。
• 直交範囲カウントへの応用では、スパニングパス分解と区間カウントプリミティブを活用する。
• 多項式的シャッタ関数を持つ一般範囲空間に対しても、不均衡境界と$\varepsilon$-近似、中央値ベースメカニズムを結びつけることで適用可能となる。

実験結果

リサーチクエスチョン

• RQ1 $(\varepsilon,\delta)$-微分プライバシーを満たすハーフスペース範囲カウントの、$d$次元空間における最適な近似誤差は何か？
• RQ2 構造的範囲空間（例：ハーフスペース）では、一般の述語カウントに対して古典的な$\Omega(n)$の下界を回避できるか？
• RQ3 $(\varepsilon,\delta)$-微分プライバシーを満たす直交範囲カウントの、$d$次元空間における最適誤差は何か？
• RQ4 不均衡理論は、幾何的範囲カウントにおけるプライバシーと正確性のトレードオフを分析するためにどのように適合できるか？
• RQ5 このフレームワークは、多項式的シャッタ関数を持つ他の範囲空間に一般化可能か？

主な発見

• 本稿では、$d$次元空間における$(\varepsilon,\delta)$-微分プライバシーを満たすハーフスペースカウントに対して、平均二乗誤差が$O(n^{1-1/d})$ であるタイトな上界を確立した。
• 任意の$(\varepsilon,\delta)$-微分プライバシーを満たすアルゴリズムに対して、平均二乗誤差が$\Omega(n^{1-1/d})$ である下界が証明され、結果の最適性が示された。
• $(\varepsilon,\delta)$-微分プライバシーを満たす直交範囲カウントに対して、$d$次元空間で初めての超定数下界$\Omega((\log n)^{d-1})$ が確立された。
• シャッタ関数が$O(s^d)$ で有界な任意の範囲空間に対して、平均二乗誤差が$O(n^{1-1/d})$ となるプライベートアルゴリズムが得られた。
• この手法は大規模なユニバースの設定にも一般化可能であり、多項式的シャッタ関数を持つ範囲系に対して部分線形誤差境界を提供する。
• 不均衡理論と微分プライバシーを新しく結びつけるフレームワークを構築し、プライバシー制約下での幾何的範囲カウントのタイトな解析を可能にした。