[论文解读] One-sided Differential Privacy

Stelios Doudalis, Ios Kotsogiannis+3 more|arXiv (Cornell University)|Dec 16, 2017

Privacy-Preserving Technologies in Data参考文献 16被引用 11

一句话总结

本文提出了一种单边差分隐私（OSDP），这是一种新颖的隐私模型，仅对敏感记录提供差分隐私保证，同时允许非敏感记录的真实性发布。通过形式化并缓解排除攻击，OSDP 在标准 DP 方法基础上将实用性提高了最多 25 倍，尤其在非敏感数据占比较大的情况下效果显著。

ABSTRACT

In this paper, we study the problem of privacy-preserving data sharing, wherein only a subset of the records in a database are sensitive, possibly based on predefined privacy policies. Existing solutions, viz, differential privacy (DP), are over-pessimistic and treat all information as sensitive. Alternatively, techniques, like access control and personalized differential privacy, reveal all non-sensitive records truthfully, and they indirectly leak information about sensitive records through exclusion attacks. Motivated by the limitations of prior work, we introduce the notion of one-sided differential privacy (OSDP). We formalize the exclusion attack and we show how OSDP protects against it. OSDP offers differential privacy like guarantees, but only to the sensitive records. OSDP allows the truthful release of a subset of the non-sensitive records. The sample can be used to support applications that must output true data, and is well suited for publishing complex types of data, e.g. trajectories. Though some non-sensitive records are suppressed to avoid exclusion attacks, our experiments show that the suppression results in a small loss in utility in most cases. Additionally, we present a recipe for turning DP mechanisms for answering counting queries into OSDP techniques for the same task. Our OSDP algorithms leverage the presence of non-sensitive records and are able to offer up to a 25x improvement in accuracy over state-of-the-art DP-solutions.

研究动机与目标

• 解决传统差分隐私（DP）的局限性，即对所有记录一视同仁地视为敏感，即使仅部分记录为敏感。
• 形式化并缓解排除攻击，即由于非敏感数据的抑制，导致对敏感记录的间接推断。
• 设计一种隐私模型，仅对敏感记录提供类似 DP 的保证，同时支持非敏感记录的真实性发布。
• 证明利用非敏感数据可显著提升查询回答的实用性，相较于标准 DP 方法具有明显优势。
• 提出一种系统化的方法，将标准 DP 机制转换为适用于计数查询的 OSDP 兼容版本。

提出的方法

• 将单边差分隐私（OSDP）作为正式的隐私定义，仅对敏感记录应用差分隐私保证，同时允许非敏感记录真实发布。
• 将排除攻击形式化为一种隐私威胁，即非敏感记录的抑制会泄露关于敏感记录的信息。
• 提出一种基于随机响应和直方图扰动（如 DAWAz）的机制，利用非敏感数据提升准确性。
• 开发一种方法，通过根据数据敏感性调整噪声注入，将标准 DP 机制（如拉普拉斯机制）转换为 OSDP 兼容版本。
• 设计如 OsdpLaplaceL1 等算法，仅抑制极少数非敏感记录，以防止排除攻击，同时最大化实用性。
• 使用策略函数对记录进行分类，判断其为敏感或非敏感，从而实现基于法规或用户选择（启用/禁用）的细粒度隐私控制。

实验结果

研究问题

• RQ1 在仅部分记录为敏感的数据发布场景中，如何形式化排除攻击的威胁？
• RQ2 能否设计一种隐私模型，仅对敏感记录提供差分隐私保证，同时真实发布非敏感数据？
• RQ3 利用非敏感数据能在多大程度上提升差分私密查询答案的实用性？
• RQ4 OSDP 机制与现有解决方案（如个性化差分隐私，PDP）相比，在实用性与排除攻击抵御能力方面表现如何？
• RQ5 抑制阈值对 OSDP 中实用性与隐私之间权衡的影响是什么？

主要发现

• OSDP 通过确保非敏感记录的抑制不会泄露个体记录敏感性的信息，从而防止排除攻击。
• 与最先进的 DP 解决方案相比，OSDP 在准确性上最高可提升 25 倍，尤其在非敏感数据占比较大的情况下效果显著。
• OsdpLaplaceL1 算法通过在基于直方图的查询中利用非敏感数据，实现了显著的实用性提升，优于标准 DP 机制。
• 基于抑制的 PDP 算法仅在阈值设置极高时（例如 τ ≥ 100ε）才能与 OSDP 竞争，但代价是排除攻击防护能力降低 100 倍。
• DAWAz 机制同时利用敏感与非敏感数据，在非敏感数据比例增加时，其准确性优于仅使用 DP 的方法。
• OSDP 支持非敏感记录的真实性发布，因此特别适用于轨迹等复杂数据类型发布，其中数据保真度至关重要。