[論文レビュー] Privacy-Utility Tradeoffs under Constrained Data Release Mechanisms

Ye Wang, Y. Ozan Basciftci+1 more|arXiv (Cornell University)|Oct 25, 2017

Privacy-Preserving Technologies in Data参考文献 16被引用数 28

ひとこと要約

本稿は、制限されたデータアクセス下でのデータ公開メカニズムにおけるプライバシー・ユーティリティのトレードオフを検討し、完全なデータ利用が最良のトレードオフをもたらし、次に有用データのみ、その後に感受性データのみの順に性能が劣ると示している。本稿はトレードオフ領域の階層を確立し、共通情報に基づく条件下で出力摂動が完全データ性能に一致することを特定するとともに、非対称なプライバシーメasure（例：最大漏洩）が、これらの結果に不可欠な新しい「連結性不等式」を破る可能性があることを明らかにしている。

ABSTRACT

Privacy-preserving data release mechanisms aim to simultaneously minimize information-leakage with respect to sensitive data and distortion with respect to useful data. Dependencies between sensitive and useful data results in a privacy-utility tradeoff that has strong connections to generalized rate-distortion problems. In this work, we study how the optimal privacy-utility tradeoff region is affected by constraints on the data that is directly available as input to the release mechanism. In particular, we consider the availability of only sensitive data, only useful data, and both (full data). We show that a general hierarchy holds: the tradeoff region given only the sensitive data is no larger than the region given only the useful data, which in turn is clearly no larger than the region given both sensitive and useful data. In addition, we determine conditions under which the tradeoff region given only the useful data coincides with that given full data. These are based on the common information between the sensitive and useful data. We establish these results for general families of privacy and utility measures that satisfy certain natural properties required of any reasonable measure of privacy or utility. We also uncover a new, subtler aspect of the data processing inequality for general non-symmetric privacy measures and discuss its operational relevance and implications. Finally, we derive exact closed-analytic-form expressions for the privacy-utility tradeoffs for symmetrically dependent sensitive and useful data under mutual information and Hamming distortion as the respective privacy and utility measures.

研究の動機と目的

• データ公開メカニズムにおける感受性データや有用データへのアクセス制限が、プライバシー・ユーティリティのトレードオフ領域に与える影響を分析すること。
• 完全データ、有用データのみ（出力摂動）、感受性データのみ（推論）の3つのデータアクセスシナリオの間で、根本的な階層を確立すること。
• 感受性データと有用データの間の共通情報に基づき、出力摂動メカニズムが完全データメカニズムと同一のトレードオフ領域を達成する条件を同定すること。
• 非対称プライバシーメasure（例：最大漏洩、微分プライバシー）に対する新しい「連結性不等式」の運用的意味を調査すること。
• 相互情報量とハミング歪みを用いた対称的依存データにおける、プライバシー・ユーティリティのトレードオフの正確な閉形式式を導出すること。

提案手法

• 任意のデータ観測制約を許容するようにプライバシー・ユーティリティフレームワークを一般化し、感受性データのみ、有用データのみ、または両方が入力として利用可能なシナリオをモデル化する。
• 一般的なプライバシーメasure $ J(X;Z) $ とユーティリティメASURE $ D(P_{Y,Z}) $ を導入し、任意の妥当な測定値に必要な自然な公理的性質を満たすものとする。
• 情報理論的不等式を用いてトレードオフ領域の階層を確立し、完全データメカニズムが出力摂動および推論メカニズムを支配することを証明する。
• 非対称プライバシーメasure に対して新しい「連結性不等式」$ J(X;Z) \leq J(Y;Z) $ を特定し、これは標準的な後処理不等式とは異なる。
• 対称的依存分布 $ (X,Y) \sim SP(m,p) $ の下で、相互情報量とハミング歪みを用いてプライバシー・ユーティリティのトレードオフの正確な閉形式解を導出する。
• 3つのメカニズム（完全データ、出力摂動（ZはYにのみ依存）、推論（ZはXにのみ依存））を分析し、それらのトレードオフ領域を比較する。

実験結果

リサーチクエスチョン

• RQ1 公開メカニズムが感受性データのみ、有用データのみ、または両方のデータにアクセス可能な場合、プライバシー・ユーティリティのトレードオフ領域はどのように変化するか？
• RQ2 出力摂動メカニズムが完全データメカニズムと同一のプライバシー・ユーティリティのトレードオフを達成する条件は何か？
• RQ3 感受性データと有用データの間の共通情報が、トレードオフ領域の同値性を決定する上で果たす役割は何か？
• RQ4 非対称プライバシーメasure（例：最大漏洩、微分プライバシー）は、新たに同定された「連結性不等式」とどのように関係するか？
• RQ5 対称的依存データにおいて、相互情報量とハミング歪みの下で、プライバシー・ユーティリティのトレードオフの正確な閉形式式は何か？

主な発見

• 完全データメカニズムのプライバシー・ユーティリティのトレードオフ領域は、推論メカニズムのそれよりも厳密に大きく、出力摂動メカニズムの領域はその中間に位置する。
• 出力摂動メカニズムが完全データメカニズムと同一のトレードオフ領域を達成するのは、XとYの共通情報がそれらの相互情報量に等しい場合に限り成立する。
• 対称的依存データ $ (X,Y) \sim SP(m,p) $ に対して、最適な出力摂動メカニズムは、$ P_N(n) = 1-t $（$ n=0 $ の場合）および $ t/(m-1) $（それ以外の場合）の分布を持つノイズを追加する。ここで $ t = \min(\delta, 1 - 1/m) $ である。
• 推論メカニズムは $ p \notin (\delta, (m-1)(1 - \delta)) $ の場合に限り有限のプライバシー・ユーティリティのトレードオフを達成する。それ以外の場合は無限大となり、歪み予算内での妥当な解が存在しないことを示している。
• Sibsonの相互情報量（無限大次）と情報プライバシー測定値は、後処理不等式および連結性不等式の両方を満たすが、最大漏洩と微分プライバシーは連結性不等式を破る可能性がある。
• 本稿では、相互情報量とハミング歪みの下で、最適なプライバシー・ユーティリティのトレードオフの正確な閉形式式を提供しており、$ \pi_{\text{OP}}(\delta) = r_m\left(p + \delta\left(1 - \frac{pm}{m-1}\right)\right) $（$ \delta < 1 - 1/m $ の場合）、それ以外の場合は0である。