[論文レビュー] Lower bounds in differential privacy

Anindya De|arXiv (Cornell University)|Jul 12, 2011

Privacy-Preserving Technologies in Data参考文献 8被引用数 11

ひとこと要約

この論文は、プライベートデータ分析における微分プライバシーのためのノイズ歪みのタイトな下界を確立し、先行研究を統合・強化している。$(\varepsilon,0)$-微分プライバシーは、$\delta$ がデータベースサイズ $n$ に対して無視できるとしても、その緩和形である $(\varepsilon,\delta)$-微分プライバシーに比べて顕著に多くのノイズを必要とすることが示されており、プライバシー概念間に根本的な構造的分離が存在することを示している。さらに、$o(\sqrt{n})$ のノイズが適用された $\ell$-ウェイマージナルでは、定数割合のエントリですら属性プライバシーが侵害される可能性がある。

ABSTRACT

This is a paper about private data analysis, in which a trusted curator holding a confidential database responds to real vector-valued queries. A common approach to ensuring privacy for the database elements is to add appropriately generated random noise to the answers, releasing only these {\em noisy} responses. In this paper, we investigate various lower bounds on the noise required to maintain different kind of privacy guarantees.

研究の動機と目的

• 微分プライバシークエリリリースメカニズムにおけるノイズ歪みの既存の下界を統合・鋭化すること。
• データベースサイズ $n$ に対して $\delta$ が無視できる場合でさえも、$(\varepsilon,0)$-微分プライバシーのプライバシー強度がその緩和形である $(\varepsilon,\delta)$-微分プライバシーと明確に分離されることを形式的に示すこと。
• データベースとメカニズムのトランスクリプト間の相互情報量の観点から、$(\varepsilon,\delta)$-微分プライバシーが $(\varepsilon,0)$-微分プライバシーに比べて著しく弱いことの証明。
• 技術的仮定を伴って以前に確立されたカウンティングクエリのノイズ下界を、条件なしに簡略化すること。
• ユニバースサイズ $d$ がデータベースサイズ $n$ より小さい場合に、明白な非プライバシーの下界を拡張し、$d$ が小さくなるほど下界が上昇することを示すこと。

提案手法

• HardtとTalwar (2010) およびMcGregorら (2010) の技術を組み合わせ、低感度クエリのクラスに対して歪みの線形下界を導出する。
• McGregorら (2010) が提示した $(\varepsilon,\delta)$-微分プライバシーの特徴づけを用いて、$\varepsilon,\delta > 0$ の場合に必要な歪みの新たな下界を導出する。
• LPデコーディングとRudelson (2011) のラデマッハ和の反集中性に関する結果を適用し、ある $\eta > 0$ に対して少なくとも $1-\eta$ のエントリで $\ell$-ウェイマージナルに $o(\sqrt{n})$ のノイズが適用された場合、属性プライバシーが侵害されることを示す。
• チェルノフの不等式とランダムプロジェクションにおける和集合の不等式を用いて、$\|x - x'\|_1 \geq cn$ を満たすデータベース間の距離を保つクエリ関数 $F$ を構築する。
• 確率的技法によりランダムプロジェクションのベクトル $r_1, \dots, r_k$ を固定し、$\|x - x'\|_1 \geq cn$ のとき、ある $i$ に対して $F(x)_i - F(x')_i$ が大きくなるように保証する。これにより、再構築攻撃が可能になる。
• 真のデータベースをノイズ付き応答から再構築する再構築アルゴリズム $B$ を構築し、$x$ から大きく離れた任意の $x'$ に対して $M(x,F)_i$ が $F(x')_i$ から大きく離れていることにより、正しさを証明する。

実験結果

リサーチクエスチョン

• RQ1 $(\varepsilon,0)$-微分プライバシーは、$\delta$ が $n$ に対して無視できる場合でも、$(\varepsilon,\delta)$-微分プライバシーに比べて厳密に多くのノイズを必要とするか？
• RQ2 カウンティングクエリと一般の低感度クエリの間で、微分プライバシーのための必要なノイズの観点から、構造的分離を確立できるか？
• RQ3 データベースとメカニズムのトランスクリプト間の相互情報量の観点から、$(\varepsilon,\delta)$-微分プライバシーは $(\varepsilon,0)$-微分プライバシーに比べて著しく弱いか？
• RQ4 すべてのエントリではなく、定数割合の $\ell$-ウェイマージナルに $o(\sqrt{n})$ のノイズが適用された場合でも、属性プライバシーが侵害される可能性があるか？
• RQ5 データユニバースのサイズ $d$ が、明白な非プライバシーを防ぐために必要なノイズの下界にどのように影響するか？

主な発見

• この論文は、$\delta \in 2^{-o(n)}$ であっても、$(\varepsilon,0)$-微分プライバシーは $(\varepsilon,\delta)$-微分プライバシーに比べて厳密に多くのノイズを必要とする、という事実を証明し、2つのプライバシーモデル間の根本的な構造的分離を確立している。
• $\delta$ が無視できる場合でさえも、データベースとメカニズムのトランスクリプト間の相互情報量の観点から、$(\varepsilon,\delta)$-微分プライバシーは $(\varepsilon,0)$-微分プライバシーに比べて著しく弱いことが示されている。
• カウンティングクエリのノイズ下界が簡略化され、HardtとTalwar (2010) が以前に技術的仮定を伴って確立した結果を、条件なしに一般化している。
• この論文は、ある $\eta > 0$ に対して少なくとも $1-\eta$ のエントリで $\ell$-ウェイマージナルに $o(\sqrt{n})$ のノイズが適用された場合、属性プライバシーが侵害されることを示しており、以前の結果がすべてのエントリに $o(\sqrt{n})$ のノイズが必要であったのを上回る。
• ユニバースサイズ $d < n$ の場合、明白な非プライバシーを防ぐために必要なノイズの下界が上昇することが示されており、より小さなユニバースサイズではプライバシーを確保するための歪みが増加することを示している。
• $d < n$ の領域において、明白な非プライバシーのための新たな下界が確立され、$d$ が小さくなるほど必要なノイズが増加することが示されており、DinurとNissim (2003) が提示した元の境界を強化している。