[论文解读] Noninformative Bounding in Differential Privacy and Its Impact on Statistical Properties of Sanitized Results in Truncated and Boundary-Inflated-Truncated Laplace Mechanisms.

Fang Liu|arXiv (Cornell University)|Jul 28, 2016

Privacy-Preserving Technologies in Data参考文献 15被引用 3

一句话总结

本文提出了非信息性边界处理方法——截断型和边界膨胀截断型（BIT）拉普拉斯机制，用于有界数据的差分隐私清洗，确保在不泄露原始信息的前提下实现隐私保护。实验表明，与无界或信息性边界处理方法相比，这些方法能保持统计有效性，降低偏差并维持清洗结果的一致性。

ABSTRACT

Protection of individual privacy is a common concern when releasing and sharing data and information. Differential privacy (DP) formalizes privacy in mathematical terms without making assumptions about the background knowledge of data intruders and thus provides a robust concept for privacy protection. Practical applications of DP involve development of differentially private mechanisms to generate sanitized results without compromising individual privacy at a pre-specified privacy budget. Differentially private mechanisms make the most sense for sanitizing bounded data in general from the data utility perspective. In this paper, we define noninformative and informative bounding procedures in sanitization of bounded data, depending on whether a bounding procedure itself leaks original information or not. We introduce differentially private truncated and boundary inflated truncated (BIT) mechanisms with bounding constraints, and apply them in the framework of the Laplace mechanism. The impacts of the two noninformative bounding procedures on the accuracy and statistical validity of sanitized results are evaluated both theoretically and empirically, in terms of bias and consistency relative to their original values and to the underlying true parameters when the statistics are estimators of some parameters.

研究动机与目标

• 为解决在有界数据的差分隐私清洗中保持数据效用的挑战，通过最小化边界处理过程中的信息泄露来实现。
• 形式化区分差分隐私中信息性边界与非信息性边界的差异，强调隐私-效用权衡。
• 开发并评估截断型和边界膨胀截断型（BIT）拉普拉斯机制作为有界数据的非信息性边界处理技术。
• 评估这些边界方法对清洗结果偏差和一致性相对于真实参数的统计影响。
• 提供理论与实证验证，证明在非信息性边界处理下，清洗结果的统计有效性和准确性。

提出的方法

• 将非信息性边界定义为不泄露原始数据取值的处理过程，与可能揭示数据信息的有信息性边界形成对比。
• 引入截断型拉普拉斯机制，将噪声分布限制在已知数据边界内，同时不改变机制的隐私保证。
• 提出边界膨胀截断型（BIT）拉普拉斯机制，通过略微扩大边界以提升效用，同时保持差分隐私。
• 在拉普拉斯机制框架内应用这些机制，生成有界数据的清洗统计量。
• 对两种机制下清洗估计量的偏差与一致性进行理论分析，并与真实参数进行比较。
• 使用模拟或真实有界数据对清洗结果的统计特性进行实证评估，以衡量其准确性和有效性。

实验结果

研究问题

• RQ1 非信息性边界处理方法如何影响有界数据差分隐私清洗结果的统计偏差？
• RQ2 截断型和边界膨胀截断型（BIT）拉普拉斯机制在多大程度上能保持清洗估计量相对于真实参数的一致性？
• RQ3 与无界或有信息性边界处理相比，非信息性边界处理对清洗结果的准确性和统计有效性有何影响？
• RQ4 在有界数据约束下，截断型和BIT拉普拉斯机制在隐私-效用权衡方面如何比较？
• RQ5 非信息性边界处理方法能否确保清洗结果在统计上保持有效且适用于推断？

主要发现

• 与无界拉普拉斯噪声相比，截断型拉普拉斯机制显著降低了清洗结果的偏差，尤其在数据被限制在已知边界内时效果更明显。
• 边界膨胀截断型（BIT）拉普拉斯机制通过扩大边界以减少截断引起的偏差，进一步提升了准确性，同时保持差分隐私。
• 两种非信息性边界方法均保持了清洗估计量的统计一致性，确保随着样本量增加，估计量收敛于真实参数值。
• 理论分析证实，两种机制在相同隐私预算下均保持差分隐私，验证了其隐私保证。
• 实证结果表明，与可能泄露原始数据信息的有信息性边界处理相比，非信息性边界处理能产生更准确且统计有效的清洗结果。