[論文レビュー] On Sampling, Anonymization, and Differential Privacy: Or, k-Anonymization Meets Differential Privacy

Ninghui Li, Wahbeh Qardaji+1 more|arXiv (Cornell University)|Jan 13, 2011

Privacy-Preserving Technologies in Data参考文献 29被引用数 19

ひとこと要約

この論文は、ランダムサンプリングの後に安全に適用されたkアンニミゼーションが、妥当なパラメータを用いて(ε,δ)-微分プライバシーを満たすことを確立している。サンプリングが悪用者に対する不確実性を生じさせることで、安全なkアンニミゼーションが形式的なプライバシー保証を提供でき、またサンプリングが微分プライバシーのアルゴリズムにおけるプライバシー保護を強化することを示している。

ABSTRACT

This paper aims at answering the following two questions in privacy-preserving data analysis and publishing: What formal privacy guarantee (if any) does $k$-anonymization provide? How to benefit from the adversary's uncertainty about the data? We have found that random sampling provides a connection that helps answer these two questions, as sampling can create uncertainty. The main result of the paper is that $k$-anonymization, when done "safely", and when preceded with a random sampling step, satisfies $(ε,δ)$-differential privacy with reasonable parameters. This result illustrates that "hiding in a crowd of $k$" indeed offers some privacy guarantees. This result also suggests an alternative approach to output perturbation for satisfying differential privacy: namely, adding a random sampling step in the beginning and pruning results that are too sensitive to change of a single tuple. Regarding the second question, we provide both positive and negative results. On the positive side, we show that adding a random-sampling pre-processing step to a differentially-private algorithm can greatly amplify the level of privacy protection. Hence, when given a dataset resulted from sampling, one can utilize a much large privacy budget. On the negative side, any privacy notion that takes advantage of the adversary's uncertainty likely does not compose. We discuss what these results imply in practice.

研究の動機と目的

• 悪用者による不確実性が存在する中で、kアンニミゼーションが形式的なプライバシー保証を提供するかどうかを特定すること。
• ランダムサンプリングによってモデル化される悪用者による不確実性が、微分プライバシーを緩和するために活用可能かどうかを調査すること。
• kアンニミゼーションが微分プライバシーを達成するために安全に適用可能な条件を同定すること。
• 悪用者による不確実性に依存するプライバシー概念の合成可能性と実用的意味を調査すること。

提案手法

• 既存のkアンニミゼーション手法における既知のプライバシー脆弱性を回避する「安全な」kアンニミゼーションアルゴリズムを導入すること。
• 二段階のパイプラインを提案する：まずデータセットに対してランダムサンプリングを実行し、その後に安全なkアンニミゼーションアルゴリズムを適用する。
• このパイプラインが妥当なεおよびδパラメータを用いて(ε,δ)-微分プライバシーを満たすことを証明すること。
• サンプリングが個人データの存在に関する悪用者の不確実性を高めることで、プライバシーがどのように強化されるかを分析すること。
• サンプリングが微分プライバシーのアルゴリズムにおいて、より高いプライバシー予算を可能にすることを実証すること。
• 理論的分析を用いて、悪用者による不確実性に依存するプライバシー概念は一般に複数のクエリにわたって合成されないことを示すこと。

実験結果

リサーチクエスチョン

• RQ1 kアンニミゼーションとランダムサンプリングを組み合わせた場合、どのような形式的なプライバシー保証が得られるか？
• RQ2 サンプリングによって生じる悪用者による不確実性を、強いプライバシー特性を維持したまま微分プライバシーを緩和するために利用可能か？
• RQ3 サンプリングの直後に適用されるkアンニミゼーションが、どのような条件下で微分プライバシーを満たすか？
• RQ4 サンプリングは、微分プライバシーのアルゴリズムにおけるプライバシー予算と誤差許容度にどのように影響するか？
• RQ5 悪用者による不確実性に依存するプライバシー概念は、連続するクエリにおいて合成可能か？

主な発見

• 安全なkアンニミゼーションは、ランダムサンプリングの直後に適用された場合、妥当なεおよびδパラメータを用いて(ε,δ)-微分プライバシーを満たす。
• ランダムサンプリングは悪用者に有意義な不確実性をもたらし、これをプライバシー保証の強化に活用できる。
• サンプリングのステップにより、kアンニミゼーションを微分プライバシーのフレームワーク内で安全に使用可能になる。kアンニミゼーション単体では微分プライバシーを保証しないが、このアプローチによりそれが可能になる。
• サンプリングはプライバシー保護を強化する：微分プライバシーのアルゴリズムの前に適用することで、より大きなプライバシー予算を可能にする。
• 悪用者による不確実性に依存するプライバシー概念、たとえばサンプリングに基づくものなど、一般に複数のクエリにわたって合成されない。
• まずサンプリングを行い、その後にkアンニミゼーションを適用するアプローチは、プライバシーの強化と耐性の観点で、逆の順序よりも優れている。