[論文レビュー] Attribute Privacy: Framework and Mechanisms

Wanrong Zhang, Olga Ohrimenko+1 more|arXiv (Cornell University)|Sep 8, 2020

Privacy-Preserving Technologies in Data被引用数 7

ひとこと要約

この論文は、個人の記録ではなく、データセットのグローバルな特性—例えば分布パラメータや集計統計—を保護することを目的とした、属性プライバシーという新しいプライバシー枠組みを導入する。Pufferfishフレームワークを用いてデータセットおよび分布的属性プライバシーを形式化し、条件付き分布間の最大のワッサーシュタイン距離に比例したノイズを追加する効率的なワッサーシュタインベースのメカニズムを提案する。これらのメカニズムは、プライバシーの保証を強固にしながらも、ユーティリティを維持でき、一部の状況ではグループ微分プライバシーを上回ることを示している。

ABSTRACT

Ensuring the privacy of training data is a growing concern since many machine learning models are trained on confidential and potentially sensitive data. Much attention has been devoted to methods for protecting individual privacy during analyses of large datasets. However in many settings, global properties of the dataset may also be sensitive (e.g., mortality rate in a hospital rather than presence of a particular patient in the dataset). In this work, we depart from individual privacy to initiate the study of attribute privacy, where a data owner is concerned about revealing sensitive properties of a whole dataset during analysis. We propose definitions to capture \emph{attribute privacy} in two relevant cases where global attributes may need to be protected: (1) properties of a specific dataset and (2) parameters of the underlying distribution from which dataset is sampled. We also provide two efficient mechanisms and one inefficient mechanism that satisfy attribute privacy for these settings. We base our results on a novel use of the Pufferfish framework to account for correlations across attributes in the data, thus addressing "the challenging problem of developing Pufferfish instantiations and algorithms for general aggregate secrets" that was left open by \cite{kifer2014pufferfish}.

研究の動機と目的

• 個人のデータが保護されていても、分布パラメータや集計統計といったグローバルなデータセット属性に対するプライバシー保護のギャップを埋めること。
• 2つの明確なプライバシー概念を形式化すること：データセット属性プライバシー（サンプルレベルの特性を保護）と分布的属性プライバシー（潜在的な分布パラメータを保護）
• 特に属性相関が存在する状況においても、これらの定義に基づいて実用的なメカニズムを開発すること。
• 一般の集計秘密に対してPufferfishフレームワークをインスタンス化する課題を克服すること、特に記録間の相関のある属性に依存する秘密に対して。

提案手法

• 属性プライバシーを定義するためにPufferfishフレームワークを用い、秘密をデータセット内のすべての属性値に関する関数、または分布パラメータとして表現する。
• データセット属性プライバシーの文脈では、秘密を「特定の感応的属性の合計値が特定の値をとる」という事象として定義し、不確実性をパrameterized family of distributions Θ でモデル化する。
• 分布的属性プライバシーの文脈では、潜在的な分布パラメータ（例：ベルヌーイ成功確率）を秘密とし、異なるパラメータ値に対して出力関数の条件付き分布を検討する。
• 異なる秘密の値に対して出力関数の条件付き確率分布間のワッサーシュタイン距離をプライバシー指標として用い、最悪のパrameter構成に対してもロバストであることを保証する。
• 異なる秘密の値に対して条件付き分布間の最大ワッサーシュタイン距離に比例してノイズを追加するワッサーシュタインメカニズムを提案し、プライバシーの保証を提供する。
• 属性相関の構造と出力の実際の感度を活用することで、グループ微分プライバシーに比べて高いユーティリティを達成できることを示している。

実験結果

リサーチクエスチョン

• RQ1 分布の感応的属性の分布や集計統計といったデータセットのグローバルな特性に対するプライバシーを形式的に定義する方法は何か？
• RQ2 属性相関が、データセットレベルの秘密のためのプライバシーメカニズム設計に与える影響は何か？
• RQ3 分布パラメータ（例：ベルヌーイ確率）を保護しつつ、高いユーティリティを維持できる効率的なメカニズムを開発できるか？
• RQ4 Pufferfishフレームワークにおいて、出力の条件付き分布間の最悪ケースワッサーシュタイン距離は、プライバシー保証にどのように関係するか？
• RQ5 ユーティリティの面で、従来のメカニズム（例：グループ微分プライバシー）を上回りつつ、グローバル属性に対して強いプライバシーを保証できるか？

主な発見

• 最悪ケースのワッサーシュタイン距離が1である場合、出力関数に Lap(1/ε) のノイズを追加することで、データセットおよび分布的設定の両方で属性プライバシーが保証される。
• 4つのバイナリ属性と有界な条件付き確率（0.4 ≤ p₁, p₂ ≤ 0.6）の設定では、最悪ケースのワッサーシュタイン距離は1に等しく、Lap(1/ε) のノイズ追加が最適である。
• パラメータ空間Θを拡張した場合（例：0.3 ≤ p₁, p₂ ≤ 0.7）、最悪ケース距離は2に増加し、Lap(2/ε) のノイズが必要になる。これは、モデルの不確実性に対する感度の増大を示している。
• 分布的属性プライバシーの文脈では、真のパラメータφ₂が0.2から0.8の範囲にあり、φ₁ = 0.6 − 0.2φ₂ である場合、最悪ケースのワッサーシュタイン距離は再び1に等しく、Lap(1/ε) のノイズ追加がプライバシーを正当化する。
• 提案されたメカニズムは、グループ微分プライバシーが同じ設定でLap(4/ε) のノイズを必要とするのに対し、より高いユーティリティを達成している。これは、感度推定が不正確であるグループ微分プライバシーと比較しての利点である。
• このフレームワークは、すべての記録を対象とする関数として秘密をモデル化し、最悪ケースの分布感度を用いることで、集計秘密に対するPufferfishのインスタンス化の課題を効果的に処理している。