[论文解读] Calibrating Data to Sensitivity in Private Data Analysis

Davide Proserpio, Sharon Goldberg+1 more|arXiv (Cornell University)|Mar 15, 2012

Privacy-Preserving Technologies in Data被引用 30

一句话总结

本文提出 wPINQ，一种差异私密数据分析平台，通过降低敏感记录在加权数据集中的权重，而非增加噪声幅度，从而提升准确性。通过非均匀权重缩放校准数据敏感度（尤其是图中高阶度节点），wPINQ 实现了优于最坏情况噪声缩放的准确性，使社交网络和图基序的精确私密分析成为可能。

ABSTRACT

We present an approach to differentially private computation in which one does not scale up the magnitude of noise for challenging queries, but rather scales down the contributions of challenging records. While scaling down all records uniformly is equivalent to scaling up the noise magnitude, we show that scaling records non-uniformly can result in substantially higher accuracy by bypassing the worst-case requirements of differential privacy for the noise magnitudes. This paper details the data analysis platform wPINQ, which generalizes the Privacy Integrated Query (PINQ) to weighted datasets. Using a few simple operators (including a non-uniformly scaling Join operator) wPINQ can reproduce (and improve) several recent results on graph analysis and introduce new generalizations (e.g., counting triangles with given degrees). We also show how to integrate probabilistic inference techniques to synthesize datasets respecting more complicated (and less easily interpreted) measurements.

研究动机与目标

• 解决由最坏情况敏感度边界引起的差异私密性中高噪声开销问题，特别是在图分析中单条边可能显著改变查询输出的情况下。
• 克服现有隐私保护平台（如 PINQ 和 Airavat）的局限性，这些平台依赖均匀噪声缩放，在处理复杂图查询时表现不佳。
• 设计一种声明式、类似 SQL 的语言（wPINQ），支持加权数据集以及非均匀连接和分组等通用操作，以支持图分析。
• 利用增量 MCMC 推断实现自动化隐私证明和合成数据集生成，提升分析人员的可用性和正确性。
• 证明数据依赖的权重缩放可绕过最坏情况敏感度约束，实现优于均匀噪声缩放或记录丢弃的更高准确性。

提出的方法

• 将加权数据集作为多重集的推广，其中记录具有实数值多重性，以实现对敏感度的细粒度控制。
• 应用非均匀权重缩放，以抑制高敏感度记录（例如，与高阶度节点相连的边）的贡献，从而降低整体敏感度。
• 设计一种声明式语言 wPINQ，支持加权连接和分组等操作符，可在保持差异私密性保证的同时支持复杂图查询。
• 利用增量计算支持基于 MCMC 的概率推理引擎，以合成匹配 wPINQ 测量结果的数据集。
• 使用实例依赖的敏感度校准权重——例如，将三角形的权重设为 $1/\max\{d_a, d_b, d_c\}$——以确保每条输入边的总影响有界。
• 通过加权变换的稳定性形式化证明隐私性，确保差异私密性，而无需依赖最坏情况敏感度边界。

实验结果

研究问题

• RQ1 在加权数据集中，基于数据的权重缩放是否能减少差异私密分析中的噪声需求，同时不损害隐私？
• RQ2 声明式语言 wPINQ 如何在确保端到端差异私密性的同时，支持复杂图查询（如三角形和基序计数）？
• RQ3 与传统噪声缩放方法相比，加权数据集在图分析中能将准确性提升多少？
• RQ4 增量 MCMC 推理是否可用于自动生成尊重 wPINQ 中复杂非均匀测量的合成数据集？
• RQ5 与平滑敏感度或记录修剪等现有方法相比，wPINQ 方法在准确性和隐私保证方面表现如何？

主要发现

• wPINQ 通过降低高敏感度记录的权重而非放大噪声，显著提升了传统差异私密方法的准确性，尤其在常数度图中表现更优。
• 在三角形计数中，将每个三角形的权重设为 $1/\max\{d_a, d_b, d_c\}$ 可将每条边的总权重变化限制为常数，从而实现常数级噪声，避免了 $O(|V|)$ 的噪声缩放。
• 该平台成功复现并改进了先前在图分析中的结果，包括度分布和联合度分布的私密计算。
• wPINQ 实现了新功能，如按指定度数进行私密三角形计数和基序分析，这些功能在早期系统中并未原生支持。
• wPINQ 中的增量 MCMC 推理引擎能高效合成匹配复杂测量结果的数据集，自动化了原本需要手动设计的过程。
• wPINQ 的方法通过保留数据但选择性降低影响，避免了平滑敏感度和记录丢弃的缺陷，提供了更平滑的准确性和隐私权衡。