[论文解读] Reviving Purpose Limitation and Data Minimisation in Data-Driven Systems

Asia J. Biega, Michèle Finck|arXiv (Cornell University)|Jan 15, 2021

Digitalization, Law, and Regulation被引用 6

一句话总结

本文研究了在现代数据驱动系统中实施数据最小化和目的限制——数据保护的核心原则——的可行性。通过技术与法律相结合的分析，识别出技术与监管障碍，揭示了出人意料的权衡，并为监管机构、数据控制者以及人工智能研究人员提供了切实可行的建议，以在欧盟背景下使数据实践与法律原则保持一致。

ABSTRACT

This paper determines whether the two core data protection principles of data minimisation and purpose limitation can be meaningfully implemented in data-driven systems. While contemporary data processing practices appear to stand at odds with these principles, we demonstrate that systems could technically use much less data than they currently do. This observation is a starting point for our detailed techno-legal analysis uncovering obstacles that stand in the way of meaningful implementation and compliance as well as exemplifying unexpected trade-offs which emerge where data protection law is applied in practice. Our analysis seeks to inform debates about the impact of data protection on the development of artificial intelligence in the European Union, offering practical action points for data controllers, regulators, and researchers.

研究动机与目标

• 评估数据最小化和目的限制是否可以在当代数据驱动系统中切实实施。
• 识别在现实世界数据处理中阻碍这些原则合规的技术、法律和实际障碍。
• 揭示在将数据保护法律应用于人工智能和机器学习系统时出现的意外权衡。
• 为数据控制者、监管机构和研究人员提供切实可行的建议，以使数据实践与GDPR原则保持一致。
• 为欧盟范围内数据保护在塑造人工智能发展中的作用的持续辩论提供参考。

提出的方法

• 结合法律框架（特别是GDPR）与数据驱动应用中的技术系统设计，开展技术与法律相结合的分析。
• 分析现实世界的数据处理流水线，评估实际使用的数据量与法律要求的数据量之间的差异。
• 评估系统架构，以确定在不损害功能的前提下可减少多少数据量。
• 审查监管解释和执法实践，以识别合规差距和不一致之处。
• 使用案例研究和系统级设计模式，说明数据最小化和目的限制的可行实现方式。
• 提出设计原则和实施策略，帮助数据控制者在实践中落实这些原则。

实验结果

研究问题

• RQ1 数据驱动系统在多大程度上能够从技术上减少数据收集，同时保持功能？
• RQ2 在现代人工智能系统中，实施数据最小化和目的限制的关键技术与法律障碍是什么？
• RQ3 监管解释和执法实践如何影响这些原则的实际可行性？
• RQ4 在将数据保护原则应用于机器学习流水线时，会出现哪些出人意料的权衡？
• RQ5 数据控制者、监管机构和研究人员可以采取哪些切实可行的策略，以加强数据最小化和目的限制的合规性？

主要发现

• 许多数据驱动系统收集的数据远超其声明目的所需，表明存在显著的数据最小化空间。
• 在许多系统中，减少数据量在技术上是可行的，但法律和组织性约束往往阻碍此类减少。
• 监管解释的模糊性和执法不一致造成了不确定性，抑制了对数据最小化原则的主动合规。
• 在动态、基于学习的系统中应用目的限制，会在隐私、性能和系统适应性之间引发复杂权衡。
• 数据控制者往往缺乏在实践中实施这些原则的清晰技术指导，尤其是在机器学习流水线中。
• 本研究识别出可操作的设计模式和合规策略，有助于在现实系统中使数据处理与GDPR要求保持一致。