[论文解读] Statistical Properties of Sanitized Results from Differentially Private Laplace Mechanisms with Noninformative Bounding

Fang Liu|arXiv (Cornell University)|Jul 28, 2016

Privacy-Preserving Technologies in Data被引用 4

一句话总结

本文提出了一种非信息性截断和边界膨胀截断（BIT）机制，用于使用拉普拉斯机制对有界统计量进行差分私有化清洗。该文从理论和实证两方面评估了这些机制对偏差、一致性和统计有效性的影响，结果表明：非信息性有界化在不引入偏差的情况下保留了隐私，而BIT机制通过在隐私约束下膨胀边界提升了准确性。

ABSTRACT

Protection of individual privacy is a common concern when releasing and sharing data and information. Differential privacy (DP) formalizes privacy in probabilistic terms without making assumptions about the background knowledge of data intruders, and thus provides a robust concept for privacy protection. Practical applications of DP involve development of differentially private mechanisms to generate sanitized results at a pre-specified privacy budget. In the sanitization of bounded statistics such as proportions and correlation coefficients, the bounding constraints will need to be incorporated in the differentially private mechanisms. There has been little work in examining the consequences of the incorporation of of bounding constraints on the accuracy of sanitized results from a differentially private mechanism. In this paper, we define noninformative and informative bounding procedures in the sanitization of bounded data, depending on whether a bounding procedure itself leaks original information or not. We formalize the differentially private truncated and boundary inflated truncated (BIT) mechanisms that release bounded statistics. The impacts of the noninformative truncated and BIT mechanisms on the statistical validity of sanitized statistics, including bias and consistency, in the framework of the Laplace mechanism are evaluated both theoretically and empirically via simulation studies.

研究动机与目标

• 为解决现有研究中关于有界约束如何影响差分私有化清洗结果准确性的空白。
• 在有界统计量的差分隐私背景下，形式化定义非信息性和信息性有界化程序。
• 评估在拉普拉斯机制框架下，截断和BIT机制的统计有效性，特别是偏差和一致性。
• 比较非信息性截断和BIT机制在保护隐私的同时维持统计可靠性的性能表现。
• 提供理论和实证分析，探讨有界数据清洗中隐私、准确性与统计有效性之间的权衡。

提出的方法

• 提出一种差分私有的截断拉普拉斯机制，通过强制有界化清洗输出来防止原始数据泄露。
• 引入边界膨胀截断（BIT）机制，通过膨胀拉普拉斯分布的尾部来提升边界附近的准确性。
• 将非信息性有界化定义为不泄露原始数据值的程序，从而确保隐私保护。
• 在拉普拉斯机制框架下，推导出截断和BIT机制的偏差与一致性的理论表达式。
• 通过模拟研究，实证验证了理论发现中关于偏差、方差和一致性的表现。
• 在不同隐私预算和数据边界条件下，比较两种机制的统计特性。

实验结果

研究问题

• RQ1 非信息性有界化如何影响差分私有化清洗结果的统计偏差和一致性？
• RQ2 BIT机制中的边界膨胀对差分隐私下有界统计量的准确性有何影响？
• RQ3 在统计有效性和隐私-效用权衡方面，截断机制与BIT机制有何比较差异？
• RQ4 在何种条件下，非信息性有界化可保护隐私而不引入信息泄露？
• RQ5 在实证模拟条件下，偏差与一致性的理论特性在多大程度上成立？

主要发现

• 非信息性有界化程序不会泄露原始数据值，从而在保持差分隐私的同时维持了统计有效性。
• 当隐私预算足够大时，截断拉普拉斯机制引入的偏差可忽略不计，从而确保了清洗后统计量的一致性。
• 与标准截断机制相比，BIT机制在有界统计量的边界附近显著降低了偏差。
• 实证模拟结果表明，随着样本量增加，两种机制均保持了一致性，支持其长期可靠性。
• 在高隐私规制下，当边界约束严格时，BIT机制的准确性优于截断机制。
• 理论分析与模拟结果一致，验证了在不同隐私预算下所提机制的稳健性。