[论文解读] APEx: Accuracy-Aware Differentially Private Data Exploration

Chang Ge, Xi He+2 more|arXiv (Cornell University)|Dec 29, 2017

Privacy-Preserving Technologies in Data参考文献 24被引用 5

一句话总结

APEx 是一种新颖的系统，使数据分析师能够在指定所需精度边界的同时，以可证明的差分隐私保证探索敏感数据集。通过将查询和精度要求转化为隐私损失最小的差分隐私机制，APEx 在合理的隐私预算下确保了高质量的查询结果，在实体解析和数据探索工作流中表现出色。

ABSTRACT

Organizations are increasingly interested in allowing external data scientists to explore their sensitive datasets. Due to the popularity of differential privacy, data owners want the data exploration to ensure provable privacy guarantees. However, current systems for answering queries with differential privacy place an inordinate burden on the data analysts to understand differential privacy, manage their privacy budget, and even implement new algorithms for noisy query answering. Moreover, current systems do not provide any guarantees to the data analyst on the quality they care about, namely accuracy of query answers. We present APEx, a novel system that allows data analysts to pose adaptively chosen sequences of queries along with required accuracy bounds. By translating queries and accuracy bounds into differentially private algorithms with the least privacy loss, APEx returns query answers to the data analyst that meet the accuracy bounds, and proves to the data owner that the entire data exploration process is differentially private. Our comprehensive experimental study on real datasets demonstrates that APEx can answer a variety of queries accurately with moderate to small privacy loss, and can support data exploration for entity resolution with high accuracy under reasonable privacy settings.

研究动机与目标

• 解决现有差分隐私数据探索系统缺乏精度保证的问题，避免分析师在管理隐私预算和理解复杂噪声机制方面承受负担。
• 通过允许用户指定精度边界而非隐私参数，减轻数据分析师的认知负荷，将关注点从隐私预算管理转向查询质量。
• 在确保查询结果满足用户指定精度要求的同时，为数据所有者提供可证明的差分隐私保证。
• 通过声明式查询接口，支持广泛的探索工作负载，包括实体解析、模式匹配和特征工程。
• 通过智能地将查询和精度约束映射为最优的差分隐私机制，最大限度减少隐私损失（ε）。

提出的方法

• APEx 将问题表述为在满足用户指定精度边界的前提下最小化隐私损失（ε），逆转了传统方法中固定 ε 并接受未知精度的思路。
• 采用翻译层将声明式聚合查询（例如，COUNT、TOP-K、直方图）映射为具有最优噪声校准的差分隐私机制。
• 系统使用先进的噪声校准技术，包括高斯机制和高级组合，以在满足精度约束的前提下最小化 ε。
• 通过根据查询类型和所需精度动态分配隐私预算，支持自适应查询序列，确保端到端的隐私保证。
• 通过在隐私约束下支持阻塞策略和谓词选择，与真实世界的数据探索流水线（如实体解析）集成。
• 系统提供形式化证明，表明即使在多次自适应查询下，整个探索过程仍保持差分隐私。

实验结果

研究问题

• RQ1 能否设计一种系统，在确保查询结果满足用户指定精度边界的前提下，最小化隐私损失（ε）？
• RQ2 在交互式数据探索过程中，如何减轻数据分析师在差分隐私管理方面的负担？
• RQ3 APEx 在中等隐私预算下，能在多大程度上支持复杂的探索任务（如实体解析），并实现高精度？
• RQ4 精度边界（α）和数据规模如何影响探索的质量与隐私成本？
• RQ5 在真实工作负载中，APEx 是否能在端到端精度和隐私效率方面超越现有系统？

主要发现

• 在相同的隐私预算（B=0.5）下，APEx 在实体解析任务中实现了高精度，其中阻塞策略（BS1 和 BS2）的召回率比基线方法最高提升 25%。
• 当隐私预算固定在 B=1.0 时，最佳召回率对应的最优精度要求（α）为 |D|=1000 时约为 0.16|D|，|D|=4000 时约为 0.08|D|，表明最优 α 与数据规模相关。
• 对于 MS2（多步策略），当精度要求过松时（例如 α > 0.32|D|），性能下降，因为噪声较大的答案会误导谓词选择，导致 F1 分数降低。
• 在精度要求适度放宽时，APEx 可在相同隐私预算下支持更多查询，但过度放宽会导致答案质量下降，因为噪声增加。
• ICQ 和 TCQ 的隐私成本始终低于 WCQ，因为泄露的数据点更少，表明系统在最小化信息泄露方面具有高效性。
• APEx 在适度隐私损失下实现了高质量的数据探索，表明以精度为导向的隐私管理显著提升了传统固定 ε 方法的可用性和性能。