[论文解读] A Design Framework for Epsilon-Private Data Disclosure.

Amirreza Zamani, Tobias J. Oechtering+1 more|arXiv (Cornell University)|Sep 3, 2020

Privacy-Preserving Technologies in Data参考文献 17被引用 6

一句话总结

本文提出了一种基于欧几里得信息几何的几何优化框架，用于设计ε-差分隐私的数据披露机制。通过在局部近似互信息并将问题简化为计算矩阵的主右奇异向量，该方法在强χ²-隐私准则下实现了最优的隐私-效用权衡，并进一步扩展至噪声信道和马尔可夫依赖关系场景。

ABSTRACT

In this paper, we study a stochastic disclosure control problem using information-theoretic methods. The useful data to be disclosed depend on private data that should be protected. Thus, we design a privacy mechanism to produce new data which maximizes the disclosed information about the useful data under a strong $\chi^2$-privacy criterion. For sufficiently small leakage, the privacy mechanism design problem can be geometrically studied in the space of probability distributions by a local approximation of the mutual information. By using methods from Euclidean information geometry, the original highly challenging optimization problem can be reduced to a problem of finding the principal right-singular vector of a matrix, which characterizes the optimal privacy mechanism. In two extensions we first consider a noisy disclosure channel and then we look for a mechanism which finds $U$ based on observing $X$, maximizing the mutual information between $U$ and $Y$ while satisfying the privacy criterion on $U$ and $Z$ under the Markov chain $(Z,Y)-X-U$.

研究动机与目标

• 设计一种隐私机制，在强χ²-隐私准则下，最大化关于有用数据的披露信息，同时保护私人数据。
• 将隐私约束下互信息最大化的复杂优化问题，简化为概率空间中的可处理几何问题。
• 将该框架扩展至涉及噪声披露信道以及观测数据与有用数据之间马尔可夫依赖关系的场景。
• 通过由数据分布导出的矩阵的主右奇异向量，表征最优隐私机制。

提出的方法

• 该方法在概率分布空间中利用欧几里得信息几何对互信息进行局部近似。
• 将隐私机制设计表述为受χ²-隐私准则约束的优化问题。
• 将原始的非凸优化问题简化为计算由联合分布和边缘分布导出的矩阵的主右奇异向量。
• 将该框架扩展至噪声信道模型，其中披露依赖于对私有数据的噪声观测。
• 进一步考虑马尔可夫链(Z,Y)−X−U，以建模依赖关系，其中U从X推断得出，以在保护U和Z隐私的同时最大化与Y的互信息。
• 该解法利用奇异值分解，识别出在效用与隐私之间实现平衡的最优数据变换。

实验结果

研究问题

• RQ1 在强χ²-隐私约束下，如何最大化有用数据与披露数据之间的互信息？
• RQ2 在概率分布空间中，何种几何结构使得隐私机制的优化变得可处理？
• RQ3 引入噪声信道如何影响最优披露机制及隐私-效用权衡？
• RQ4 马尔可夫链(Z,Y)−X−U在从观测变量中实现隐私保护的有用数据推断中起到什么作用？
• RQ5 最优隐私机制是否可通过数据导出矩阵的奇异向量分解来表征？

主要发现

• 最优隐私机制由数据联合分布与边缘分布导出的矩阵的主右奇异向量表征。
• 互信息的局部近似使得原始非凸优化问题可被几何化地简化为线性代数计算。
• 该框架通过将隐私机制设计问题转化为奇异向量计算，显著简化了求解过程。
• 扩展至噪声信道后，几何结构得以保持，且在相同隐私准则下机制仍保持最优。
• 马尔可夫扩展允许从X中对有用数据U实现最优推断，同时满足对U和Z的隐私约束，且解仍可表示为奇异向量分析的形式。