[论文解读] EU law and emotion data

Andreas Häuselmann, Alan Sears+2 more|arXiv (Cornell University)|Sep 19, 2023

Privacy, Security, and Data ProtectionSocial Sciences被引用 3

一句话总结

本文探讨了在欧盟法律框架下处理情绪数据所面临的法律挑战，尽管情绪数据具有高度敏感性，但GDPR保护仍存在漏洞。文章分析了其与公平性及准确性原则之间的张力，评估了《人工智能法案》与《数字服务法》（DSA）的监管影响，并呼吁情感计算领域优先考虑基本权利，以符合不断演进的欧盟法规。

ABSTRACT

This article sheds light on legal implications and challenges surrounding emotion data processing within the EU's legal framework. Despite the sensitive nature of emotion data, the GDPR does not categorize it as special data, resulting in a lack of comprehensive protection. The article also discusses the nuances of different approaches to affective computing and their relevance to the processing of special data under the GDPR. Moreover, it points to potential tensions with data protection principles, such as fairness and accuracy. Our article also highlights some of the consequences, including harm, that processing of emotion data may have for individuals concerned. Additionally, we discuss how the AI Act proposal intends to regulate affective computing. Finally, the article outlines the new obligations and transparency requirements introduced by the DSA for online platforms utilizing emotion data. Our article aims at raising awareness among the affective computing community about the applicable legal requirements when developing AC systems intended for the EU market, or when working with study participants located in the EU. We also stress the importance of protecting the fundamental rights of individuals even when the law struggles to keep up with technological developments that capture sensitive emotion data.

研究动机与目标

• 分析欧盟GDPR下情绪数据的法律地位及其保护措施，尽管其具有敏感性。
• 识别处理情绪数据引发的法律与伦理张力，尤其涉及公平性、准确性及个体伤害问题。
• 评估欧盟《人工智能法案》与《数字服务法》（DSA）对情感计算系统监管影响。
• 提高情感计算研究人员对在欧盟市场开发系统时合规义务的认识。
• 强调即使立法滞后于情绪数据处理技术发展，也必须保护基本权利。

提出的方法

• 对GDPR将情绪数据分类的法律分析，指出其未被列入‘特殊类别’个人数据之列。
• 探讨情感计算技术对数据保护原则（如公平性与准确性）的影响。
• 审查欧盟《人工智能法案》提案，评估其对情绪识别系统的监管方法。
• 分析DSA对使用情绪数据的在线平台提出的新透明度与问责要求。
• 将不同情感计算技术方法与法律标准进行比较，评估合规风险。
• 运用案例推理与法律解释，突出对个人与开发者的实际影响。

实验结果

研究问题

• RQ1 为何尽管情绪数据具有高度敏感性，GDPR仍未将其归类为‘特殊数据’？
• RQ2 在实践中，公平性与准确性等现有数据保护原则如何与情绪数据处理产生冲突？
• RQ3 欧盟《人工智能法案》提出了哪些监管机制来规范情感计算系统？
• RQ4 DSA的透明度义务如何影响处理情绪数据的在线平台？
• RQ5 未经监管的情绪数据处理可能对个人造成哪些潜在伤害？

主要发现

• 情绪数据未被GDPR明确定义为‘特殊数据’，导致尽管其敏感性极高，法律保护仍不充分。
• 缺乏明确的法律分类造成法律模糊性与风险，尤其在自动化决策中的公平性与准确性方面。
• 欧盟《人工智能法案》为情感计算引入基于风险的监管，对高风险应用（如情绪识别）设定了严格规则。
• DSA对使用情绪数据的在线平台施加了新的透明度与问责要求，增强了监管监督。
• 现有法律框架难以跟上技术发展步伐，增加了基本权利被侵犯的风险。
• 本文呼吁情感计算领域主动承担伦理责任，即使在缺乏明确法律指令的情况下，也应保护个人权利。