[论文解读] Transparency, Fairness, Data Protection, Neutrality: Data Management Challenges in the Face of New Regulation

Serge Abiteboul, Julia Stoyanovich|arXiv (Cornell University)|Mar 8, 2019

Privacy-Preserving Technologies in Data参考文献 21被引用 6

一句话总结

本文主张通过‘责任设计’（responsibility by design）从一开始就将法律与伦理规范——如透明度、公平性、数据保护和中立性——整合到数据驱动系统中。它识别了GDPR、纽约市ADS法以及网络中立性等法规带来的关键技术挑战，并呼吁数据管理领域将这些原则作为核心需求，而非事后补充。

ABSTRACT

The data revolution continues to transform every sector of science, industry and government. Due to the incredible impact of data-driven technology on society, we are becoming increasingly aware of the imperative to use data and algorithms responsibly -- in accordance with laws and ethical norms. In this article we discuss three recent regulatory frameworks: the European Union's General Data Protection Regulation (GDPR), the New York City Automated Decisions Systems (ADS) Law, and the Net Neutrality principle, that aim to protect the rights of individuals who are impacted by data collection and analysis. These frameworks are prominent examples of a global trend: Governments are starting to recognize the need to regulate data-driven algorithmic technology. Our goal in this paper is to bring these regulatory frameworks to the attention of the data management community, and to underscore the technical challenges they raise and which we, as a community, are well-equipped to address. The main take-away of this article is that legal and ethical norms cannot be incorporated into data-driven systems as an afterthought. Rather, we must think in terms of responsibility by design, viewing it as a systems requirement.

研究动机与目标

• 强调由于社会对隐私、公平性和透明度的关切，数据驱动系统正面临日益增长的监管压力。
• 识别近期法规（如GDPR、纽约市ADS法、网络中立性）对数据管理系统带来的技术挑战。
• 敦促数据管理社区将法律与伦理规范视为首要系统需求，而非部署后的附加功能。
• 强调在系统设计中实现文化与技术转型的必要性，以在效率与公平性、问责制及个人权利之间取得平衡。
• 提出通过数据素养和透明机制赋能用户，可与自上而下的监管形成互补。

提出的方法

• 分析包括GDPR（欧盟）、纽约市自动化决策系统法以及网络中立性原则在内的监管框架，以提取技术需求。
• 将法律权利（如数据可携权、更正权、删除权和解释权）映射为技术系统设计的挑战。
• 聚焦数据透明度、公平性审计以及系统互操作性，作为监管引发的核心数据管理问题。
• 考察在现实数据系统中实现‘解释权’和‘数据可携权’的可行性。
• 提出数据集成与知识表示技术对于实现跨平台数据流动性和中立性验证至关重要。
• 强调标准化、稳定的数据导出格式在支持数据可携性和系统互操作性方面的作用。

实验结果

研究问题

• RQ1 如何架构数据管理系统以支持GDPR中的数据可携权、更正权和删除权？
• RQ2 在纽约市ADS法下，实现个人请求并获取自动化决策解释的技术机制有哪些？
• RQ3 数据管理系统如何确保数据处理与推荐系统中的中立性，尤其是在存在潜在偏见或优先对待的情况下？
• RQ4 数据集成与知识表示技术在实现跨平台数据可携性和透明性方面发挥何种作用？
• RQ5 数据管理社区如何助力验证网络中立性及其他新兴形式中立性（如平台中立性或设备中立性）的合规性？

主要发现

• 透明度、公平性与数据保护等法律与伦理规范必须从设计阶段就嵌入数据系统，而非事后添加。
• GDPR中的数据可携权在数据格式标准化、数据范围（包括推断数据）以及目标系统兼容性方面引发重大技术挑战。
• 实施纽约市ADS法下的‘解释权’，要求系统具备算法决策的可审计性与可解释性，尤其针对偏见与歧视问题。
• 由于测量差异性和情境依赖性，验证网络中立性合规性在技术上极为复杂，需开发新的网络性能评估方法。
• 新兴的中立性形式（如平台中立性或设备中立性）需要新的技术验证机制，以检测推荐系统与应用商店中的优先对待行为。
• 数据管理领域凭借在数据集成、知识表示与系统级问责方面的专长，具备应对这些挑战的有利地位。