[論文レビュー] A Design Framework for Epsilon-Private Data Disclosure.

Amirreza Zamani, Tobias J. Oechtering+1 more|arXiv (Cornell University)|Sep 3, 2020

Privacy-Preserving Technologies in Data参考文献 17被引用数 6

ひとこと要約

本稿では、ユークリッド情報幾何学を用いて、ε-プライバシーを満たすデータ公開メカニズムを設計するための幾何的最適化フレームワークを提案する。局所的な相互情報量の近似と、行列の主右特異ベクトルの計算に帰着させることで、強い $χ^2$-プライバシー基準下での最適なプライバシー・ユーティリティトレードオフを達成する。ノイズのあるチャネルやマコフ的依存関係の拡張も含む。

ABSTRACT

In this paper, we study a stochastic disclosure control problem using information-theoretic methods. The useful data to be disclosed depend on private data that should be protected. Thus, we design a privacy mechanism to produce new data which maximizes the disclosed information about the useful data under a strong $\chi^2$-privacy criterion. For sufficiently small leakage, the privacy mechanism design problem can be geometrically studied in the space of probability distributions by a local approximation of the mutual information. By using methods from Euclidean information geometry, the original highly challenging optimization problem can be reduced to a problem of finding the principal right-singular vector of a matrix, which characterizes the optimal privacy mechanism. In two extensions we first consider a noisy disclosure channel and then we look for a mechanism which finds $U$ based on observing $X$, maximizing the mutual information between $U$ and $Y$ while satisfying the privacy criterion on $U$ and $Z$ under the Markov chain $(Z,Y)-X-U$.

研究の動機と目的

• 強い $χ^2$-プライバシー基準下で、有用なデータに関する情報を最大限に公開しつつ、プライベートデータを保護するプライバシー機構の設計。
• プライバシー制約下での相互情報量最大化という複雑な最適化問題を、確率分布空間における扱いやすい幾何的問題に還元すること。
• ノイズのある公開チャネルや、観測されたデータと有用なデータの間のマコフ的依存関係を含む状況へのフレームワークの拡張。
• データ分布から導かれる行列の主右特異ベクトルを用いて、最適なプライバシー機構を特徴付けること。

提案手法

• ユークリッド情報幾何学を用いて、確率分布空間における相互情報量の局所的近似を実行する。
• プライバシー機構設計を、$χ^2$-プライバシー基準によって制約された最適化問題として定式化する。
• 元の非凸最適化問題を、結合分布と周辺分布から導かれる行列の主右特異ベクトルの計算に還元する。
• 公開がプライベートデータのノイズのある観測に依存するノイズのあるチャネルモデルへのフレームワークの拡張。
• $(Z,Y)-X-U$ のマコフ連鎖を導入し、$U$ が $X$ から推定され、$Y$ との相互情報量を最大化しながら $U$ および $Z$ のプライバシーを保持する依存関係をモデル化する。
• 特異値分解を活用して、ユーティリティとプライバシーのバランスを取る最適なデータ変換を同定する。

実験結果

リサーチクエスチョン

• RQ1 強い $χ^2$-プライバシー制約下で、有用なデータと公開されたデータの間の相互情報量をどのように最大化できるか？
• RQ2 確率分布空間におけるどの幾何的構造が、プライバシー機構の最適化を扱いやすくするか？
• RQ3 ノイズのあるチャネルの導入が、最適な公開メカニズムおよびプライバシー・ユーティリティトレードオフにどのように影響するか？
• RQ4 マコフ連鎖 $(Z,Y)-X-U$ は、観測変数から有用なデータ $U$ をプライバシーを守って推論可能にするために果たす役割は何か？
• RQ5 データから導かれる行列の特異ベクトル分解によって、最適なプライバシー機構を特徴づけられるか？

主な発見

• 最適なプライバシー機構は、データの結合分布と周辺分布から導かれる行列の主右特異ベクトルによって特徴づけられる。
• 相互情報量の局所的近似により、元の非凸最適化問題が線形代数的計算に幾何的に還元可能である。
• フレームワークにより、プライバシー機構設計の解法が顕著に単純化され、特異ベクトルの計算に帰着される。
• ノイズのあるチャネルへの拡張でも、幾何的構造が保たれ、同じプライバシー基準下で最適性が維持される。
• マコフ的拡張により、$X$ から $U$ を最適に推定しつつ $U$ および $Z$ のプライバシー制約を満たすことが可能となり、解は依然として特異ベクトル解析で表現可能である。