[論文レビュー] Cardinality Estimators do Not Preserve Privacy

Damien Desfontaines, Andreas Lochbihler+1 more|arXiv (Cornell University)|Aug 17, 2018

Privacy-Preserving Technologies in Data参考文献 1被引用数 1

ひとこと要約

この論文は、ハイパーログロッグのような基数推定器が、その固有の集約特性のおかげでプライバシーを保持できないことを示している。攻撃者が事前の知識を持たない弱いプライバシー定義のもとでも、これらのアルゴリズムは個々のデータ要素に関する顕著な情報を漏洩させ、結果として生データと同等に敏感であることが判明した。

ABSTRACT

Cardinality estimators like HyperLogLog are sketching algorithms that estimate the number of distinct elements in a large multiset. Their use in privacy-sensitive contexts raises the question of whether they leak private information. In particular, can they provide any privacy guarantees while preserving their strong aggregation properties? We formulate an abstract notion of cardinality estimators, that captures this aggregation requirement: one can merge sketches without losing precision. We propose an attacker model and a corresponding privacy definition, strictly weaker than differential privacy: we assume that the attacker has no prior knowledge of the data. We then show that if a cardinality estimator satisfies this definition, then it cannot have a reasonable level of accuracy. We prove similar results for weaker versions of our definition, and analyze the privacy of existing algorithms, showing that their average privacy loss is significant, even for multisets with large cardinalities. We conclude that strong aggregation requirements are incompatible with any reasonable definition of privacy, and that cardinality estimators should be considered as sensitive as raw data. We also propose risk mitigation strategies for their real-world applications.

研究の動機と目的

• 基数推定器が強力な集約能力を維持しつつ、プライバシー保証を提供できるかどうかを調査すること。
• 微分プライバシーよりも厳密に弱いが、実用的システムにおいて意味のある形式的な攻撃者モデルとプライバシー定義を定義すること。
• このプライバシー定義を満たす任意の基数推定器が、妥当な正確性を達成できないことを証明すること。
• ハイパーログロッグやハイパーログロッグ++といった広く使われているアルゴリズムの実際のプライバシー損失を分析すること。
• 基数推定器の実世界での導入に向けたリスク低減戦略を提案すること。

提案手法

• 可換性、結合性、整合的かつ良好に定義されたマージ操作を持つ、基数推定器の抽象的モデルを提示する。
• 攻撃者がターゲットの存在について事前の知識を持たないという仮定の下、知識の増加に基づくプライバシー定義を導入する。
• 情報理論的分析を用いて、このプライバシー定義を満たす任意の推定器は、受け入れがたい低精度を持つ必要があることを示す。
• さまざまな基数と攻撃シナリオにおいて、ハイパーログロッグとハイパーログロッグ++の平均プライバシー損失を実験的に測定する。
• スケッチ内部への直接アクセスを制限するため、制限付きAPIやハッシュのソルティングを含むリスク低減戦略を提案する。
• 同型暗号がプライバシー保護の代替手段として可能であるかを分析するが、高い計算コストを伴うと指摘する。

実験結果

リサーチクエスチョン

• RQ1 攻撃者が事前の知識を持たない弱いプライバシー定義のもとで、基数推定器はプライバシーを保持できるか？
• RQ2 マージ可能で集約特性を保ちつつ、提案されたプライバシー定義を満たし、かつ正確性の高い基数推定器を設計することは可能か？
• RQ3 ハイパーログロッグやハイパーログロッグ++といった広く導入されたアルゴリズムにおける実際のプライバシー漏洩レベルはどの程度か？
• RQ4 基数推定器の構造的特性（可換性、結合性など）が、なぜ必然的にプライバシー侵害を引き起こすのか？
• RQ5 基数推定器スケッチに対する推論攻撃のリスクを低減するための実用的対策は何か？

主な発見

• 提案されたプライバシー定義を満たす任意の基数推定器は、実用的でないほど受け入れがたい低精度を持つ必要がある。
• 弱いプライバシー定義（攻撃者が事前の知識を持たない）のもとでも、基数推定器は個々のデータ要素に関する顕著な情報を漏洩させる。
• ハイパーログロッグとハイパーログロッグ++の平均プライバシー損失は顕著であり、大規模なマルチセットに対しても再識別リスクが極めて高い。
• 基数推定器の構造的特性（可換性、結合性、マージ可能であること）は、意味のあるプライバシーと根本的に不適合である。
• 基数推定器のスケッチは、再識別可能性の観点から、生データと同等に機微な対象とみなすべきである。
• 制限付きAPIやハッシュのソルティングといったリスク低減戦略は、プライバシー漏洩を低減できるが、意図的な攻撃者に対しては完全に排除できない。