[论文解读] Privacy-Preserving Data Analysis for the Federal Statistical Agencies

John M. Abowd, Lorenzo Alvisi+4 more|arXiv (Cornell University)|Jan 3, 2017

Privacy-Preserving Technologies in Data参考文献 4被引用 11

一句话总结

本文提出了一套严格的框架，用于美国联邦统计机构的隐私保护数据分析，解决了信息恢复的基本定律——即准确的汇总统计数据可能危及个人隐私。该框架提出了注入校准噪声的差分隐私算法，以在数学上保证个体隐私的同时保持统计效用，从而实现安全的数据共享，用于研究和政策制定，且不会面临重新识别的风险。

ABSTRACT

Government statistical agencies collect enormously valuable data on the nation's population and business activities. Wide access to these data enables evidence-based policy making, supports new research that improves society, facilitates training for students in data science, and provides resources for the public to better understand and participate in their society. These data also affect the private sector. For example, the Employment Situation in the United States, published by the Bureau of Labor Statistics, moves markets. Nonetheless, government agencies are under increasing pressure to limit access to data because of a growing understanding of the threats to data privacy and confidentiality. "De-identification" - stripping obvious identifiers like names, addresses, and identification numbers - has been found inadequate in the face of modern computational and informational resources. Unfortunately, the problem extends even to the release of aggregate data statistics. This counter-intuitive phenomenon has come to be known as the Fundamental Law of Information Recovery. It says that overly accurate estimates of too many statistics can completely destroy privacy. One may think of this as death by a thousand cuts. Every statistic computed from a data set leaks a small amount of information about each member of the data set - a tiny cut. This is true even if the exact value of the statistic is distorted a bit in order to preserve privacy. But while each statistical release is an almost harmless little cut in terms of privacy risk for any individual, the cumulative effect can be to completely compromise the privacy of some individuals.

研究动机与目标

• 解决尽管已进行去标识化处理，联邦统计数据发布仍面临日益严重的隐私威胁。
• 应对一个反直觉的现实：即使统计结果高度准确，仍可能泄露个体信息——这一现象被称为信息恢复的基本定律。
• 开发一种正式的、数学上严谨的隐私保护数据分析方法，确保强有力的隐私保障，同时不牺牲统计效用。
• 为联邦机构提供一个实用框架，以发布数据供研究、政策制定和公众理解，同时保护个体机密性。

提出的方法

• 本文主张采用差分隐私作为正式的隐私保障，确保任何单个个体数据的包含或排除对任何分析结果的影响可忽略不计。
• 提出向统计查询中添加校准噪声（特别是拉普拉斯噪声或高斯噪声）的概念，以掩盖个体贡献，同时保持整体数据效用。
• 该框架将差分隐私应用于常见的统计操作，如计数、求和与直方图，确保隐私损失是有限且可量化的。
• 强调使用隐私预算（ε 和 δ）正式追踪并限制多次查询的累积隐私损失。
• 该方法支持交互式与非交互式数据发布，使研究人员能够在正式隐私保障下查询数据。
• 将差分隐私整合到联邦机构的数据生命周期中，从数据收集到发布，确保端到端的隐私保护。

实验结果

研究问题

• RQ1 联邦统计机构如何在不损害个体隐私的前提下发布汇总统计数据，即使这些统计结果极为准确？
• RQ2 在敏感数据集上发布多个统计查询时，可以提供哪些正式的隐私保障？
• RQ3 差分隐私能否在大规模联邦数据集中实际应用，同时保持统计准确性和效用？
• RQ4 信息恢复的基本定律如何在现代数据环境中破坏传统去标识化技术？
• RQ5 实施差分隐私于现实世界联邦统计系统，需要哪些操作和技术框架？

主要发现

• 信息恢复的基本定律表明，即使发布少量准确的统计结果，也可能导致个体被重新识别，从而使传统去标识化方法不再充分。
• 差分隐私提供了数学上严谨的隐私保障，无论查询次数多少，均能限制每个个体的最大信息泄露量。
• 通过向统计输出中添加精心校准的噪声，差分隐私确保即使拥有辅助信息，也无法可靠推断出个体记录。
• 该框架允许在保持强隐私保障的同时发布有用的汇总统计数据，从而实现更广泛的研究与政策数据访问。
• 本文确立了隐私保护数据分析不仅在理论上成立，而且对联邦统计机构而言在实践中是可行的。
• 将差分隐私应用于联邦数据系统，开启了数据共享的新时代，实现了公共利益与个体机密性之间的平衡。