[论文解读] Plausible Deniability for Privacy-Preserving Data Synthesis

Vincent Bindschaedler, Reza Shokri+1 more|arXiv (Cornell University)|Aug 26, 2017

Privacy-Preserving Technologies in Data参考文献 30被引用 10

一句话总结

本文提出了一种基于可信否认性的新型隐私保护数据合成框架，其中合成记录通过优化实用性的模型生成，并仅在通过隐私测试（确保与多个真实记录不可区分）后才被发布。该方法通过将生成建模与隐私保护解耦，实现了无需实用性能损失的差分隐私，支持高效、可并行化的合成，具备强有力的理论保证和高数据实用性。

ABSTRACT

Releasing full data records is one of the most challenging problems in data privacy. On the one hand, many of the popular techniques such as data de-identification are problematic because of their dependence on the background knowledge of adversaries. On the other hand, rigorous methods such as the exponential mechanism for differential privacy are often computationally impractical to use for releasing high dimensional data or cannot preserve high utility of original data due to their extensive data perturbation. This paper presents a criterion called plausible deniability that provides a formal privacy guarantee, notably for releasing sensitive datasets: an output record can be released only if a certain amount of input records are indistinguishable, up to a privacy parameter. This notion does not depend on the background knowledge of an adversary. Also, it can efficiently be checked by privacy tests. We present mechanisms to generate synthetic datasets with similar statistical properties to the input data and the same format. We study this technique both theoretically and experimentally. A key theoretical result shows that, with proper randomization, the plausible deniability mechanism generates differentially private synthetic data. We demonstrate the efficiency of this generative technique on a large dataset; it is shown to preserve the utility of original data with respect to various statistical analysis and machine learning measures.

研究动机与目标

• 解决在保留强隐私保证的同时发布完整、高维数据集的挑战。
• 克服现有差分隐私机制因过度加噪而导致数据实用性下降的局限性。
• 将优化实用性的生成模型与隐私保护解耦，实现高实用性合成数据。
• 形式化并实现一种隐私测试，确保合成记录具备可信否认性。
• 证明可信否认性可用于实现差分隐私，且实用性能损失最小。

提出的方法

• 该框架使用通用的、优化实用性的生成模型，从真实数据种子生成合成数据记录。
• 对每个合成记录应用隐私测试，以验证其可能源自多个真实记录（最多至隐私参数）。
• 通过拒绝未通过测试的合成记录，实现不可区分性，确保输入记录无法与输出唯一关联。
• 该框架支持数百万条记录的并行生成与测试，显著提升了效率，优于传统指数机制方法。
• 该方法证明，对不可区分性阈值进行随机化可构成差分隐私机制，从而将可信否认性与差分隐私建立正式关联。
• 该方法将生成模型与隐私保护解耦，使最先进的模型可在无需隐私原生设计约束的情况下使用。

实验结果

研究问题

• RQ1 可信否认性能否被形式化为一种强隐私保证，适用于合成数据生成，且独立于攻击者背景知识？
• RQ2 能否构建一种隐私保护数据合成框架，在确保强隐私的同时保持高数据实用性？
• RQ3 是否可以通过测试和筛选合成记录，而非扰动输出数据，实现差分隐私？
• RQ4 可信否认性在大规模、高维数据集上能否高效扩展？
• RQ5 在合成数据背景下，可信否认性与差分隐私之间存在何种关系？

主要发现

• 所提出的框架通过隐私测试，实现了高效、可并行化的合成数据记录生成，具备强隐私保证。
• 该方法通过不扰动生成模型，避免了实用性能下降，与传统差分隐私机制不同。
• 在ACS数据集上使用该方法进行合成是计算上可行的，避免了指数机制所需的2TB内存。
• 当不可区分性阈值被随机化时，该框架实现了差分隐私，从而正式建立了可信否认性与差分隐私之间的联系。
• 隐私测试确保每个发布的合成记录与多个真实记录不可区分，提供了强且与背景知识无关的隐私保证。
• 只要通过隐私测试，该方法可使用任何高实用性生成模型而不损害隐私。