[논문 리뷰] Reviving Purpose Limitation and Data Minimisation in Data-Driven Systems

Asia J. Biega, Michèle Finck|arXiv (Cornell University)|2021. 01. 15.

Digitalization, Law, and Regulation인용 수 6

한 줄 요약

이 논문은 현대적인 데이터 기반 시스템에서 데이터 최소화 및 목적 제한 원칙—데이터 보호의 핵심 원칙—을 구현할 수 있는지의 가능성을 조사한다. 기술-법률 분석을 통해 기술적 및 규제적 장애 요소를 규명하고, 예상치 못한 상호 보완적 관계를 드러내며, EU 환경에서 데이터 보호 원칙과 일치하는 데이터 관행을 위한 조정 가능한 통찰을 규제 기관, 데이터 통제자 및 AI 연구자들에게 제공한다.

ABSTRACT

This paper determines whether the two core data protection principles of data minimisation and purpose limitation can be meaningfully implemented in data-driven systems. While contemporary data processing practices appear to stand at odds with these principles, we demonstrate that systems could technically use much less data than they currently do. This observation is a starting point for our detailed techno-legal analysis uncovering obstacles that stand in the way of meaningful implementation and compliance as well as exemplifying unexpected trade-offs which emerge where data protection law is applied in practice. Our analysis seeks to inform debates about the impact of data protection on the development of artificial intelligence in the European Union, offering practical action points for data controllers, regulators, and researchers.

연구 동기 및 목표

• 현대적인 데이터 기반 시스템에서 데이터 최소화 및 목적 제한 원칙을 의미 있게 구현할 수 있는지 평가하기.
• 실제 데이터 처리 환경에서 이러한 원칙을 이행하는 데 장애가 되는 기술적, 법적, 실무적 장애 요소를 규명하기.
• 데이터 보호법을 인공지능 및 머신러닝 시스템에 적용할 때 발생하는 예상치 못한 상호 보완적 관계를 밝혀내기.
• 데이터 통제자, 규제 기관, 연구자들이 데이터 보호 원칙과 일치하는 데이터 관행을 구현하기 위해 실천 가능한 권고안을 제공하기.
• 유럽연합 내 인공지능 개발에 있어 데이터 보호의 역할에 대한 현재 진행 중인 논의를 뒷받침하기.

제안 방법

• 특히 GDPR를 포함한 법적 프레임워크와 데이터 기반 응용 프로그램의 기술적 시스템 설계를 융합한 기술-법률 분석을 수행한다.
• 실제 데이터 처리 파이프라인을 분석하여 실제 사용되는 데이터 양과 법적으로 요구되는 양을 평가한다.
• 기능성에 영향을 주지 않으면서 얼마나 많은 데이터를 줄일 수 있는지 시스템 아키텍처를 평가한다.
• 준수 격차와 일관성 없는 점을 밝혀내기 위해 규제 해석 및 집행 관행을 분석한다.
• 가능한 데이터 최소화 및 목적 제한의 구현 사례를 설명하기 위해 사례 연구 및 시스템 수준의 설계 패턴을 사용한다.
• 데이터 통제자가 실무에서 이러한 원칙을 실행 가능하게 하기 위한 설계 원칙 및 구현 전략을 제안한다.

실험 결과

연구 질문

• RQ1 데이터 기반 시스템이 기능성을 유지하면서 얼마나 많은 데이터 수집을 기술적으로 줄일 수 있는가?
• RQ2 현대적인 AI 시스템에서 데이터 최소화 및 목적 제한 원칙을 이행하는 데 있어 핵심적인 기술적 및 법적 장애 요소는 무엇인가?
• RQ3 규제 해석 및 집행 관행이 이러한 원칙의 실무적 구현 가능성에 어떤 영향을 미치는가?
• RQ4 머신러닝 파이프라인에 데이터 보호 원칙을 적용할 때 발생하는 예상치 못한 상호 보완적 관계는 무엇인가?
• RQ5 데이터 통제자, 규제 기관, 연구자가 데이터 최소화 및 목적 제한 원칙 준수를 강화하기 위해 채택할 수 있는 실천 가능한 전략은 무엇인가?

주요 결과

• 많은 데이터 기반 시스템이 명시된 목적을 달성하는 데 필요한 양보다 훨씬 더 많은 데이터를 수집하고 있어, 데이터 최소화의 여지가 상당히 크다는 것을 시사한다.
• 많은 시스템에서 데이터 양을 줄이는 데 있어 기술적 가능성은 높지만, 법적 및 조직적 제약로 인해 이러한 감소가 자주 이루어지지 않는다.
• 규제의 모호성과 일관성 없는 집행로 인해 불확실성이 발생하며, 이는 데이터 최소화 원칙에 대한 사전적 준수를 저해한다.
• 동적이고 학습 기반의 시스템에서 목적 제한 원칙을 적용하면 프라이버시, 성능, 시스템 적응성 간의 복잡한 상호 보완적 관계가 발생한다.
• 데이터 통제자들은 특히 머신러닝 파이프라인에서 이러한 원칙을 실무적으로 어떻게 이행할 수 있을지에 대한 명확한 기술적 지침을 확보하지 못하고 있다.
• 본 연구는 실생활 시스템에서 GDPR 요건과 일치하는 데이터 처리를 지원할 수 있는 실천 가능한 설계 패턴 및 준수 전략을 규명하였다.