[논문 리뷰] EU law and emotion data

Andreas Häuselmann, Alan Sears외 2명|arXiv (Cornell University)|2023. 09. 19.

Privacy, Security, and Data ProtectionSocial Sciences인용 수 3

한 줄 요약

이 논문은 EU 법체계 하에서 감정 데이터 처리의 법적 도전 과제를 분석하며, 감정 데이터의 민감성에도 불구하고 GDPR 보호의 격차를 부각한다. 정당성 및 정확성 원칙과의 갈등을 분석하고, AI 법과 DSA의 규제 영향을 평가하며, 발달 중인 EU 규제에 부응해 영향력 있는 컴퓨팅 공동체가 기본권을 우선시할 것을 촉구한다.

ABSTRACT

This article sheds light on legal implications and challenges surrounding emotion data processing within the EU's legal framework. Despite the sensitive nature of emotion data, the GDPR does not categorize it as special data, resulting in a lack of comprehensive protection. The article also discusses the nuances of different approaches to affective computing and their relevance to the processing of special data under the GDPR. Moreover, it points to potential tensions with data protection principles, such as fairness and accuracy. Our article also highlights some of the consequences, including harm, that processing of emotion data may have for individuals concerned. Additionally, we discuss how the AI Act proposal intends to regulate affective computing. Finally, the article outlines the new obligations and transparency requirements introduced by the DSA for online platforms utilizing emotion data. Our article aims at raising awareness among the affective computing community about the applicable legal requirements when developing AC systems intended for the EU market, or when working with study participants located in the EU. We also stress the importance of protecting the fundamental rights of individuals even when the law struggles to keep up with technological developments that capture sensitive emotion data.

연구 동기 및 목표

• 감정 데이터의 민감성에도 불구하고 EU의 GDPR 하에서 감정 데이터의 법적 지위와 보호를 분석하는 것.
• 특히 정당성, 정확성 및 개인적 피해와 관련된 감정 데이터 처리에서 발생하는 법적 및 윤리적 갈등을 규명하는 것.
• 영향력 있는 컴퓨팅 시스템에 대한 EU AI 법과 디지털 서비스법(DSA)의 규제 영향을 평가하는 것.
• 영향력 있는 컴퓨팅 연구자들이 EU 시장용 시스템을 개발할 때의 준수 의무에 대한 인식을 제고하는 것.
• 기술 발전이 감정 데이터 처리 분야에서 뒤처지는 법률 조치가 존재하는 상황에서도 기본권을 보호할 필요성을 강조하는 것.

제안 방법

• 감정 데이터가 '특수 범주' 개인 정보 목록에 포함되지 않은 점을 지적하며 GDPR의 감정 데이터 분류에 대한 법적 분석을 수행한다.
• 감정 컴퓨팅 기술이 공정성 및 정확성과 같은 데이터 보호 원칙에 미치는 영향을 검토한다.
• 영향력 있는 컴퓨팅 시스템에 대한 규제 접근 방식을 평가하기 위해 EU AI 법 제안안을 검토한다.
• 감정 데이터를 사용하는 온라인 플랫폼에 대한 투명성 및 책임성 요구사항을 분석한다.
• 법적 기준과 영향력 있는 컴퓨팅의 다양한 기술적 접근 방식을 비교하여 준수 위험을 평가한다.
• 사례 기반 추론과 법적 해석을 활용하여 개인과 개발자에게 미치는 실질적 영향을 부각한다.

실험 결과

연구 질문

• RQ1 감정 데이터는 민감성에도 불구하고 GDPR 하에서 왜 '특수 데이터'로 분류되지 않는가?
• RQ2 공정성 및 정확성과 같은 기존 데이터 보호 원칙은 실질적으로 감정 데이터 처리와 어떻게 충돌하는가?
• RQ3 EU AI 법은 영향력 있는 컴퓨팅 시스템을 규제하기 위해 어떤 규제 메커니즘을 제안하는가?
• RQ4 DSA의 투명성 의무는 감정 데이터를 처리하는 온라인 플랫폼에 어떤 영향을 미치는가?
• RQ5 규제되지 않은 감정 데이터 처리로 인해 개인이 겪을 수 있는 잠재적 피해는 무엇인가?

주요 결과

• 감정 데이터는 GDPR 하에서 명시적으로 '특수 데이터'로 분류되지 않아, 높은 민감성에도 불구하고 부적절한 법적 보호를 받고 있다.
• 명확한 법적 분류 부재로 인해 공정성 및 자동화된 결정에서의 정확성과 관련된 모호성과 위험이 발생하며, 이는 개인에게 특히 위험할 수 있다.
• EU AI 법은 영향력 있는 컴퓨팅에 대해 위험 기반 규제를 도입하며, 감정 인식과 같은 고위험 응용 분야에 엄격한 규칙을 적용한다.
• DSA는 감정 데이터를 사용하는 온라인 플랫폼에 새로운 투명성 및 책임성 요구사항을 부과하여 감독을 강화한다.
• 기존 법적 프레임워크는 기술 발전을 따라가지 못해 기본권 침해 위험이 증가하고 있다.
• 논문은 명확한 법적 지침이 없더라도 영향력 있는 컴퓨팅 공동체가 사전 윤리적 책임을 다할 것을 촉구한다.