[论文解读] AI-Based Emotion Recognition: Promise, Peril, and Prescriptions for Prosocial Path

Siddique Latif, Hafiz Shehbaz Ali+4 more|arXiv (Cornell University)|Nov 14, 2022

Emotion and Mood Recognition被引用 13

一句话总结

本文探讨基于人工智能的自动化情绪识别（AER）系统，概述其在医疗保健、教育和安全等领域的变革潜力，同时强调偏见、隐私侵犯和情感操纵等伦理风险。文章提出一个以透明度、同意、数据隐私和问责制为基础的亲社会框架，以指导AER技术的伦理化开发与部署。

ABSTRACT

Automated emotion recognition (AER) technology can detect humans' emotional states in real-time using facial expressions, voice attributes, text, body movements, and neurological signals and has a broad range of applications across many sectors. It helps businesses get a much deeper understanding of their customers, enables monitoring of individuals' moods in healthcare, education, or the automotive industry, and enables identification of violence and threat in forensics, to name a few. However, AER technology also risks using artificial intelligence (AI) to interpret sensitive human emotions. It can be used for economic and political power and against individual rights. Human emotions are highly personal, and users have justifiable concerns about privacy invasion, emotional manipulation, and bias. In this paper, we present the promises and perils of AER applications. We discuss the ethical challenges related to the data and AER systems and highlight the prescriptions for prosocial perspectives for future AER applications. We hope this work will help AI researchers and developers design prosocial AER applications.

研究动机与目标

• 分析基于人工智能的自动化情绪识别（AER）系统所带来的社会益处与伦理风险。
• 识别AER应用中与数据收集、偏见、隐私和操纵相关的关键伦理挑战。
• 提出一套全面的伦理准则与操作原则，用于设计亲社会的AER系统。
• 通过数据治理与用户同意机制，确保AER系统在公平性、透明度与问责制方面的表现。
• 为研究人员、开发者和政策制定者提供指导，以构建可信且伦理上正当的AER技术。

提出的方法

• 基于七个核心原则提出AER的亲社会框架：全面披露、个人同意、伦理数据共享、数据所有权、安全与隐私、问责制以及可审计性。
• 强调在将个人纳入AER数据库之前，必须获得知情、书面且可撤销的同意。
• 引入审计日志以记录数据来源、同意验证及算法性能，以确保问责制。
• 倡导嵌入隐私优先设计原则，如安·卡沃基安（Ann Cavoukian）提出的七项隐私原则。
• 建议避免全自动决策，而应将AER作为辅助工具以支持人类判断。
• 强调可解释性、包容性与适应性在AI模型中的重要性，以减少偏见并提升不同人群间的公平性。

实验结果

研究问题

• RQ1 基于人工智能的自动化情绪识别（AER）系统主要的社会益处与伦理风险是什么？
• RQ2 如何设计AER系统，以确保在多样化人群中的公平性、透明度与问责制？
• RQ3 需要哪些伦理原则以防止情绪数据被滥用并保护个人隐私？
• RQ4 AER系统在哪些方面可与人权和民主价值观相兼容？
• RQ5 开发者应如何确保AER系统不会加剧偏见或导致情感操纵？

主要发现

• 当AER系统在非代表性数据集上进行训练时，存在显著的偏见风险，可能导致不准确或歧视性结果。
• 在未获个人同意的情况下使用AER进行大规模监控，构成对隐私的严重侵犯，并对社会造成危害。
• 在收集或使用情绪数据之前，必须进行全面披露，并获得知情、书面的同意，且个人应保有随时撤回同意的权利。
• 应将数据所有权赋予个人，使其能够访问、更正和删除其情绪数据记录。
• AER不应用于完全自动化的决策；而应作为辅助工具，以增强人类判断力。
• 具备来源追踪、同意验证与算法性能指标的审计日志，对于确保问责制与合规性至关重要。