[논문 리뷰] Transparency, Fairness, Data Protection, Neutrality: Data Management Challenges in the Face of New Regulation

Serge Abiteboul, Julia Stoyanovich|arXiv (Cornell University)|2019. 03. 08.

Privacy-Preserving Technologies in Data참고 문헌 21인용 수 6

한 줄 요약

이 논문은 '책임성 설계'를 통해 데이터 기반 시스템의 초기 단계에서 투명성, 공정성, 데이터 보호, 중립성 등의 법적 및 윤리적 원칙을 통합할 것을 주장한다. GDPR, 뉴욕시의 ADS 법, 넷 네트럴리티와 같은 규정이 초래하는 주요 기술적 과제를 규명하고, 데이터 관리 공동체가 이러한 원칙을 후행적 추가 기능이 아닌 핵심 요구사항으로 간주할 것을 당부한다. 또한 효율성과 공정성, 책임성, 개인의 권리 간 균형을 이루기 위해 체계 설계의 문화적·기술적 전환의 필요성을 강조하며, 사용자 중심의 데이터 리터러시 및 투명성 메커니즘을 통해 상향식 규제를 보완할 수 있음을 제안한다.

ABSTRACT

The data revolution continues to transform every sector of science, industry and government. Due to the incredible impact of data-driven technology on society, we are becoming increasingly aware of the imperative to use data and algorithms responsibly -- in accordance with laws and ethical norms. In this article we discuss three recent regulatory frameworks: the European Union's General Data Protection Regulation (GDPR), the New York City Automated Decisions Systems (ADS) Law, and the Net Neutrality principle, that aim to protect the rights of individuals who are impacted by data collection and analysis. These frameworks are prominent examples of a global trend: Governments are starting to recognize the need to regulate data-driven algorithmic technology. Our goal in this paper is to bring these regulatory frameworks to the attention of the data management community, and to underscore the technical challenges they raise and which we, as a community, are well-equipped to address. The main take-away of this article is that legal and ethical norms cannot be incorporated into data-driven systems as an afterthought. Rather, we must think in terms of responsibility by design, viewing it as a systems requirement.

연구 동기 및 목표

• 사생활, 공정성, 투명성에 대한 사회적 우려로 인해 데이터 기반 시스템에 대한 규제 압력이 증가하고 있음을 부각시키기 위해.
• 최근의 규정들인 GDPR, 뉴욕시의 ADS 법, 넷 네트럴리티 등이 데이터 관리 시스템에 초래하는 기술적 과제를 규명하기 위해.
• 데이터 관리 공동체가 법적 및 윤리적 원칙을 후행적 추가 기능이 아닌 첫 번째 시스템 요구사항으로 간주하도록 당부하기 위해.
• 효율성과 공정성, 책임성, 개인의 권리 간 균형을 이루기 위해 체계 설계의 문화적·기술적 전환의 필요성을 강조하기 위해.
• 사용자 중심의 데이터 리터러시 및 투명성 메커니즘을 통해 상향식 규제를 보완할 수 있음을 제안하기 위해.

제안 방법

• GDPR(EU), 뉴욕시 자동결정시스템법, 넷 네트럴리티 원칙을 포함한 규제 프레임워크를 분석하여 기술적 요구사항을 도출하기 위해.
• 데이터 이동성, 정정, 삭제, 설명 요청 등의 법적 권리들을 기술적 시스템 설계 과제로 매핑하기 위해.
• 규제로 인해 발생하는 핵심 데이터 관리 문제로서 데이터 투명성, 공정성 감사, 시스템 상호운용성에 집중하기 위해.
• 실제 데이터 시스템에서 '설명 권리'와 '데이터 이동성 권리'를 구현하는 데 필요한 기술적 타당성 분석하기 위해.
• 다중 플랫폼 간 데이터 이동성과 중립성 검증을 가능하게 하기 위해 데이터 통합 및 지식 표현 기법이 필수적임을 제안하기 위해.
• 데이터 이동성과 시스템 상호운용성을 지원하기 위해 표준화되고 안정적인 데이터 내보내기 형식의 역할을 강조하기 위해.

실험 결과

연구 질문

• RQ1 GDPR의 데이터 이동성, 정정, 삭제 권리 구현을 위해 데이터 관리 시스템은 어떻게 아키텍처를 설계할 수 있는가?
• RQ2 뉴욕시의 ADS 법 하에 개인이 자동결정에 대한 설명을 요청하고 수신할 수 있도록 하기 위해 어떤 기술적 메커니즘이 필요한가?
• RQ3 데이터 처리 및 추천 시스템에서 중립성을 확보하기 위해 데이터 관리 시스템은 어떻게 해야 하며, 특히 편향이나 특혜 대상 처리 가능성이 있는 상황에서 어떻게 대응할 수 있는가?
• RQ4 데이터 통합 및 지식 표현은 다중 플랫폼 간 데이터 이동성과 투명성을 어떻게 가능하게 하는가?
• RQ5 데이터 관리 공동체는 넷 네트럴리티 및 기타 새로운 형태의 중립성(예: 플랫폼 중립성 또는 기기 중립성) 준수를 검증하는 데 어떻게 기여할 수 있는가?

주요 결과

• 투명성, 공정성, 데이터 보호와 같은 법적 및 윤리적 원칙은 설계 단계에서 데이터 시스템에 통합되어야 하며, 이후에 추가해서는 안 된다.
• GDPR의 데이터 이동성 권리 구현은 데이터 형식 표준화, 데이터 범위(유추된 데이터 포함), 대상 시스템 호환성과 관련된 상당한 기술적 과제를 야기한다.
• 뉴욕시의 ADS 법 하에 '설명 권리'를 이행하기 위해서는 알고리즘 결정의 감사 가능성과 해석 가능성 지원이 필요하며, 특히 편향 및 차별에 대한 대응이 중요하다.
• 측정 변동성과 맥락적 의존성으로 인해 넷 네트럴리티 준수 검증은 기술적으로 복잡하며, 네트워크 성능 평가를 위한 새로운 방법이 필요하다.
• 플랫폼 중립성 또는 기기 중립성과 같은 새로운 형태의 중립성은 추천 시스템 및 앱 스토어에서의 특혜 대상 처리를 탐지하기 위해 새로운 기술적 검증 메커니즘이 필요하다.
• 데이터 통합, 지식 표현, 시스템 수준의 책임성 전문성으로 인해 데이터 관리 공동체는 이러한 과제를 해결할 수 있는 데 유리한 위치에 있다.