[论文解读] Smile for the Camera: Privacy and Policy Implications of Emotion AI

Elaine Sedenberg, John Chuang|arXiv (Cornell University)|Sep 1, 2017

Ethics and Social Impacts of AI被引用 7

一句话总结

本文探讨了情感人工智能（Emotion AI）在面部识别中引发的隐私与政策挑战，该技术通过视觉数据推断情绪状态。论文提出了一套评估框架，用于分析相关参与方、数据收集动机以及时间与空间背景，以指导监管响应，强调了《通用数据保护条例》（GDPR）中的漏洞以及美国联邦贸易委员会（FTC）在遏制滥用行为中的作用，同时借鉴了测谎仪监管的先例。

ABSTRACT

The introduction of artificial intelligence (AI) on visual images for emotional analysis obliterates the natural subjectivity and contextual dependence of our facial displays. Emotion AI places itself as an algorithmic lens on our digital artifacts and real-time interactions, creating the illusion of a new, objective class of data: our emotional and mental states. Building upon a rich network of existing public photographs--as well as fresh feeds from surveillance footage or smart phone cameras--these emotion algorithms require no additional infrastructure or improvements on image quality. In order to examine the potential policy and legal remedies for emotion AI as an emerging technology, we first establish a framework of actors, collection motivations, time scales, and space considerations that differentiates emotion AI from other algorithmic lenses. Each of these elements influences available policy remedies, and should shape continuing discussions on the antecedent conditions that make emotional AI acceptable or not in particular contexts. Based on our framework of unique elements, we examine potential available policy remedies to prevent or remediate harm. Specifically, our paper looks toward the regulatory role of the Federal Trade Commission in the US, gaps in the EU's General Data Protection Regulation (GDPR) allowing for emotion data collection, and precedent set by polygraph technologies in evidentiary and use restrictions set by law. We also examine the way social norms and adaptations could grow to also modulate broader use. Given the challenges in controlling the flow of these data, we call for further research and attention as emotion AI technology remains poised for adoption.

研究动机与目标

• 分析情感人工智能在处理面部图像以推断情绪状态时所带来的独特隐私与政策挑战。
• 构建一个框架，基于参与方、数据收集动机、时间尺度和空间背景，区分情感人工智能与其他算法数据处理方式。
• 评估现有监管机制（如FTC的监管权限和GDPR条款）在应对情绪数据收集方面的有效性。
• 评估测谎仪监管先例对潜在限制情感人工智能使用之法律框架的启示作用。
• 呼吁随着情感人工智能技术向广泛部署推进，进一步开展研究并加强政策关注。

提出的方法

• 作者构建了一个概念性框架，分析四个维度：数据使用中的参与方、数据收集的动机、部署的时间与空间尺度，以及情境依赖性。
• 将情感人工智能与现有监管模式进行比较，尤其聚焦于美国联邦贸易委员会（FTC）的执法权力和欧盟《通用数据保护条例》（GDPR）的规定。
• 借鉴测谎技术，考察该领域中关于证据使用限制和同意机制的法律规范如何建立。
• 评估现有法律与规范结构在应对从视觉数据中自动推断情绪风险方面的充分性。
• 强调社会规范与技术适应在塑造社会对情感人工智能接受或抵制态度方面的作用。
• 本文基于现有判例法、政策文件以及情感人工智能系统的技术描述，为监管分析提供实证基础。

实验结果

研究问题

• RQ1 情感人工智能在隐私与政策影响方面，与其它算法数据处理系统有何不同？
• RQ2 目前有哪些监管机制可用于控制或补救情绪数据收集造成的损害？
• RQ3 像GDPR和FTC权限这样的现有法律在多大程度上能够有效应对情感人工智能的风险？
• RQ4 测谎仪监管的先例在多大程度上可为情感人工智能技术的治理提供借鉴？
• RQ5 社会规范与技术适应在多大程度上影响了社会对情感人工智能的接受程度？

主要发现

• 情感人工智能通过算法将面部表情解释为内在情绪状态的指标，制造了一种虚假的客观性，而人类情绪本质上具有主观性和情境依赖性。
• 该技术可直接在现有的公共与监控图像流上运行，无需新建基础设施或提升图像质量，从而实现广泛部署。
• 美国联邦贸易委员会（FTC）具备对与情感人工智能相关的欺骗性或不公平行为实施监管的潜在权力，但缺乏针对情绪数据的具体指导原则。
• 欧盟《通用数据保护条例》（GDPR）存在重大漏洞，允许在广泛法律依据下收集和处理情绪数据，尤其是在‘合法利益’这一类别下。
• 测谎仪监管提供了在敏感情境中限制生物特征数据使用的先例，表明类似证据使用限制可适用于情感人工智能。
• 本文结论认为，当前的政策与法律框架尚不足以应对情感人工智能的风险，亟需进一步研究与针对性的监管关注。