[論文レビュー] Blowfish Privacy: Tuning Privacy-Utility Trade-offs using Policies

Xi He, Ashwin Machanavajjhala+1 more|arXiv (Cornell University)|Dec 13, 2013

Privacy-Preserving Technologies in Data参考文献 22被引用数 104

ひとこと要約

本稿では、ユーザーが定義するポリシー（機微な情報とデータ制約）を組み込むことで微分プライバシーを強化する、柔軟なプライバシー枠組み「Blowfishプライバシー」を紹介する。これらのポリシーを調整することで、k-meansクラスタリング、ヒストグラム、範囲クエリのためのメカニズムが開発され、特に現実的なデータ制約下でも、標準的な微分プライバシー手法と比較して、大幅にノイズが低減され、高い実用性が達成される。

ABSTRACT

Privacy definitions provide ways for trading-off the privacy of individuals in a statistical database for the utility of downstream analysis of the data. In this paper, we present Blowfish, a class of privacy definitions inspired by the Pufferfish framework, that provides a rich interface for this trade-off. In particular, we allow data publishers to extend differential privacy using a policy, which specifies (a) secrets, or information that must be kept secret, and (b) constraints that may be known about the data. While the secret specification allows increased utility by lessening protection for certain individual properties, the constraint specification provides added protection against an adversary who knows correlations in the data (arising from constraints). We formalize policies and present novel algorithms that can handle general specifications of sensitive information and certain count constraints. We show that there are reasonable policies under which our privacy mechanisms for k-means clustering, histograms and range queries introduce significantly lesser noise than their differentially private counterparts. We quantify the privacy-utility trade-offs for various policies analytically and empirically on real datasets.

研究の動機と目的

• 現実世界のシナリオにおいて、高いユーティリティと相関データが一般的である場合に、微分プライバシーの限界を克服すること。
• 個々の属性がどの程度保護されるか、および補助的知識（例：データ制約）がプライバシー保証に与える影響を、細かく制御できるプライバシー枠組みを開発すること。
• 標準的な微分プライバシーと比較して、カスタマイズされたプライバシーポリシーが、より正確なデータ公開メカニズムを実現できることを示すこと。
• 特にカウント制約および空間的制約の下で、クエリに対するポリシー固有のグローバル感度とノイズ補正を形式化すること。

提案手法

• 微分プライバシーのポリシー駆動型拡張を導入し、機微な情報仕様と制約をプライバシーモデルの第一級の構成要素として定義する。
• プライバシー保証がプライバシーパラメータεとポリシーPの両方に依存する、微分プライバシーの一般化として「Blowfishプライバシー」の概念を提案する。
• ポリシー制約下で、累積ヒストグラムの公開と範囲クエリへの回答を、より高い正確性で行うための「順序付きメカニズム」を開発する。
• グラフ理論的構造（例：ポリシーグラフ、連結成分）を用いて、ノイズ要件を制限するポリシー固有のグローバル感度を導出する。
• k-meansクラスタリングへの応用において、感度仕様を弱めることでノイズが低減しつつもプライバシーが維持されることを示す。
• 制約を補助的知識としてモデル化し、制約グラフにおける連結成分を用いて感度を計算することで、カウント制約下でのヒストグラム公開のためのノイズ補正を実施する。

実験結果

リサーチクエスチョン

• RQ1 データ発行者が、どの個々の属性を秘密に保つ必要があるかを指定することで、プライバシー・ユーティリティトレードオフを改善できるか？
• RQ2 公開されているデータ制約（例：カウント制約）を、プライバシー定義に形式的に組み込むことで、相関データ攻撃に対する保護を強化できるか？
• RQ3 k-meansクラスタリングや範囲クエリといった一般的なワークロードにおいて、Blowfishプライバシー下のメカニズムは、標準的な微分プライバシー手法よりも低いノイズを達成できるか？
• RQ4 さまざまな制約タイプ下で、ヒストグラムおよび範囲クエリワークロードに対するポリシー固有のグローバル感度は何か？
• RQ5 攻撃者が制約を既知としている場合、ヒストグラム公開のためのノイズを効率的に補正できるか？

主な発見

• k-meansクラスタリングにおいて、Blowfishメカニズムは、実データセット上での標準的な微分プライバシー手法と比較して、感度仕様を弱めることでノイズを最大50％まで低減した。
• 累積ヒストグラムのための順序付きメカニズムは、既知の最良の微分プライバシー手法よりも低い誤差を達成し、実世界のデータ上での実証的誤差低減率が最大40％に達した。
• 距離閾値制約付きの非交差範囲カウントクエリでは、グローバル感度が 2(maxcomp(Q) + 1) で有界であり、ここで maxcomp(Q) は制約グラフにおける最大連結成分のサイズである。
• カウント制約下では、ヒストグラムクエリのポリシー固有グローバル感度が 2 × max(size(Ci)) で有界であり、ここで Ci は制約グループである。これにより、よりタイトなノイズ補正が可能になった。
• 理論的および実証的結果から、Blowfishプライバシーは、意味的プライバシー保証を損なわずに、微分プライバシーよりも顕著に高いユーティリティを達成できることを示した。
• 攻撃者の補助的知識をグラフとしてモデル化することで、カウント制約下でのヒストグラムの正確な公開が可能となり、効率的な感度計算とノイズ補正が可能になった。