[论文解读] The future of statistical disclosure control

Mark Elliot, Josep Domingo‐Ferrer|arXiv (Cornell University)|Dec 21, 2018

Privacy-Preserving Technologies in Data参考文献 58被引用 9

一句话总结

本文探讨了在大规模数据、机器学习和数据共享扩展带来的数据隐私挑战背景下，统计披露控制（SDC）的演变与未来。文章追溯了SDC在国家统计机构实际需求驱动下的发展历程，并指出了隐私保护领域未来的关键挑战，特别是数据关联、算法偏见以及数据使用中的反歧视问题。

ABSTRACT

Statistical disclosure control (SDC) was not created in a single seminal paper nor following the invention of a new mathematical technique, rather it developed slowly in response to the practical challenges faced by data practitioners based at national statistical institutes (NSIs). SDC's subsequent emergence as a specialised academic field was an outcome of three interrelated socio-technical changes: (i) the advent of accessible computing as a research tool in the 1980s meant that it became possible - and then increasingly easy - for researchers to process larger quantities of data automatically; this naturally increased demand for such data; (ii) it became possible for data holders to process and disseminate detailed data as digital files and (iii) the number of organisations holding data about individuals proliferated. This also meant the number of potential adversaries with the resources to attack any given dataset increased exponentially. In this article, we describe the state of the art for SDC and then discuss the core issues and future challenges. In particular, we touch on SDC and big data, on SDC and machine learning, and on SDC and anti-discrimination.

研究动机与目标

• 分析统计披露控制（SDC）的历史发展，作为对国家统计机构（NSIs）实际数据隐私挑战的回应。
• 识别推动SDC从一项实际数据管理任务演变为专门学术领域的社会技术驱动因素。
• 考察与大规模数据、机器学习以及数据分析中反歧视相关的SDC新兴挑战。
• 在数据处理能力不断演进和个体隐私威胁日益增加的背景下，对SDC方法论进行前瞻性评估。

提出的方法

• 通过三个关键社会技术转变的视角分析SDC的历史轨迹：可及计算的兴起、数字数据传播的普及，以及数据持有机构的激增。
• 分析由于数据访问和处理能力扩展而导致潜在攻击者数量增加的现象。
• 回顾当前最先进的SDC技术，重点关注其在现代数据环境中的局限性。
• 探讨机器学习和数据关联对披露风险的影响，特别是对重新识别模式的检测能力。
• 考虑SDC在防止数据分析导致歧视性结果方面的作用，特别是在医疗和社会服务等敏感领域。
• 提出一个未来SDC发展的框架，将隐私优先设计原则与不断演进的数据科学实践相结合。

实验结果

研究问题

• RQ1 统计披露控制如何从一项实际的数据管理任务演变为一个正式的学术学科？
• RQ2 哪些关键的社会技术因素放大了现代数据生态系统中的披露风险？
• RQ3 大规模数据和机器学习技术如何挑战传统SDC方法并增加重新识别风险？
• RQ4 SDC技术在何种方式下可被调整以防止数据驱动决策中的歧视性结果？
• RQ5 为了在日益复杂的数据环境中维持隐私，SDC研究应朝哪些未来方向发展？

主要发现

• 统计披露控制并非源于单一理论突破，而是源于国家统计机构对数据隐私挑战的持续实际应对。
• 数据持有机构的激增和数据的数字化显著增加了能够实施重新识别攻击的潜在攻击者数量。
• 机器学习技术通过自动检测看似匿名化数据中的重新识别模式，带来了新的披露风险。
• 数据使用中的反歧视考量要求SDC方法超越简单的匿名化，必须包含公平性感知的数据处理与访问控制。
• SDC的未来在于将隐私保护技术与数据科学工作流程整合，特别是在安全数据共享和差分隐私的背景下。
• 当前的SDC实践必须演进，以应对数据关联、动态数据处理以及推理攻击日益复杂化的挑战。