[论文解读] Advancing Differential Privacy: Where We Are Now and Future Directions for Real-World Deployment

Rachel Cummings, Damien Desfontaines+22 more|arXiv (Cornell University)|Apr 14, 2023

Privacy, Security, and Data Protection被引用 9

一句话总结

基于工作坊的差分隐私在工业规模系统部署中的挑战、工具需求与研究方向的概览，强调基础设施、隐私/实用性权衡、审计以及对保证的沟通。

ABSTRACT

In this article, we present a detailed review of current practices and state-of-the-art methodologies in the field of differential privacy (DP), with a focus of advancing DP's deployment in real-world applications. Key points and high-level contents of the article were originated from the discussions from "Differential Privacy (DP): Challenges Towards the Next Frontier," a workshop held in July 2022 with experts from industry, academia, and the public sector seeking answers to broad questions pertaining to privacy and its implications in the design of industry-grade systems. This article aims to provide a reference point for the algorithmic and design decisions within the realm of privacy, highlighting important challenges and potential research directions. Covering a wide spectrum of topics, this article delves into the infrastructure needs for designing private systems, methods for achieving better privacy/utility trade-offs, performing privacy attacks and auditing, as well as communicating privacy with broader audiences and stakeholders.

研究动机与目标

• 在工业和公共部门背景下，绘制部署差分隐私（DP）时的主要现实挑战。
• 确定面向非专业人士采用的DP工具与基础设施的需求。
• 概括提升DP算法与系统在隐私/实用性权衡和可扩展性方面的研究方向。
• 讨论用于审计、攻击测试和基准测试以验证DP实现的方法。
• 在考虑现实世界约束的同时，探讨如何向终端用户和利益相关者传达DP保证。

提出的方法

• 综合来自2022年7月的DP工作坊的行业、学术界和公共部门参与者的见解。
• 详细描述部署中的实际挑战，并提出面向工具、基准测试和可用性的研究议程。
• 提供在端到端系统中实现DP的指南，包括威胁模型和组合性考虑。
• 讨论公共数据使用、数据最小化和基础设施设计，以提升DP的采用与效果。

实验结果

研究问题

• RQ1 跨行业在现实世界部署差分隐私的关键挑战和障碍是什么？
• RQ2 需要哪些工具、基础设施和流程改进以支持可扩展且易用的DP系统？
• RQ3 如何通过公共数据、数据自适应方法和DP驱动的管道来改善隐私/实用性权衡？
• RQ4 我们如何有效地对DP部署进行审计、攻击测试和基准测试以验证保证？
• RQ5 在实践中应如何向终端用户和利益相关者传达DP保证？

主要发现

• DP 已成为统计分析和机器学习的主导隐私概念，但现实世界的采用在威胁建模、参数选择、集成和成本方面仍面临挑战。
• 健壮的DP工具应聚焦于可用性、通过开源实现建立信任、支持多样化的隐私单元，并具备对大数据集的可扩展性。
• 公共数据和数据自适应/迁移学习方法有望提高DP的实用性，特别是在模型的预训练和私有微调方面。
• 审计和攻击在限定信息泄漏、指导参数选择方面具有价值，尽管它们不能替代最坏情况保证，且需谨慎解读。
• 有效的隐私沟通需要将DP作为更广泛隐私策略的一部分来考量，包括数据最小化和透明度，并关注政策和监管方面的考量。