[论文解读] Speciesist bias in AI -- How AI applications perpetuate discrimination and unfair outcomes against animals

Thilo Hagendorff, Leonie Bossert+2 more|arXiv (Cornell University)|Feb 22, 2022

Law, AI, and Intellectual Property被引用 6

一句话总结

本文提出了人工智能中‘物种歧视偏见’的概念，揭示了机器学习系统如何通过学习并强化有偏见的训练数据中的物种歧视模式，持续对动物——尤其是养殖动物——实施歧视。研究证明，图像识别、语言模型和推荐系统均在无形中助长动物伤害的正常化，呼吁人工智能公平性框架应扩展以涵盖物种歧视偏见的缓解。

ABSTRACT

Massive efforts are made to reduce biases in both data and algorithms in order to render AI applications fair. These efforts are propelled by various high-profile cases where biased algorithmic decision-making caused harm to women, people of color, minorities, etc. However, the AI fairness field still succumbs to a blind spot, namely its insensitivity to discrimination against animals. This paper is the first to describe the 'speciesist bias' and investigate it in several different AI systems. Speciesist biases are learned and solidified by AI applications when they are trained on datasets in which speciesist patterns prevail. These patterns can be found in image recognition systems, large language models, and recommender systems. Therefore, AI technologies currently play a significant role in perpetuating and normalizing violence against animals. This can only be changed when AI fairness frameworks widen their scope and include mitigation measures for speciesist biases. This paper addresses the AI community in this regard and stresses the influence AI systems can have on either increasing or reducing the violence that is inflicted on animals, and especially on farmed animals.

研究动机与目标

• 将‘物种歧视偏见’定义为人工智能系统中一种新型系统性歧视形式。
• 探究人工智能应用（包括图像识别、语言模型和推荐系统）如何对动物造成不公平结果。
• 强调训练数据在嵌入并强化物种歧视模式方面的作用，从而使对动物的暴力行为趋于正常化。
• 呼吁人工智能公平性研究社区将现有框架扩展，以涵盖物种歧视偏见的缓解。
• 强调人工智能开发者在加剧或减轻动物痛苦（尤其是养殖动物）方面的伦理责任。

提出的方法

• 分析现有人工智能系统（图像识别、大型语言模型和推荐系统）中物种歧视偏见的模式。
• 审视人工智能开发中使用的训练数据集，以识别其中嵌入的物种歧视规范与假设。
• 借鉴批判理论与动物伦理学，将物种主义视为一种系统性歧视形式。
• 通过案例研究说明人工智能系统如何强化人类与非人类动物之间既有的权力失衡。
• 提出一个概念性框架，用于识别和衡量人工智能公平性评估中的物种歧视偏见。
• 倡导将动物福利考量整合进人工智能公平性评估标准之中。

实验结果

研究问题

• RQ1 人工智能系统如何通过其训练数据和决策过程再现并强化物种歧视态度？
• RQ2 图像识别、大型语言模型和推荐系统在哪些方面助长了动物苦难的正常化？
• RQ3 为何人工智能公平性研究社区长期以来忽视了对动物的歧视？这一疏漏具有何种伦理影响？
• RQ4 人工智能开发中的哪些机制导致物种歧视偏见根深蒂固并系统化？
• RQ5 现有人工智能公平性框架应如何扩展，以纳入物种歧视偏见的缓解？

主要发现

• 人工智能中的物种歧视偏见真实存在且具有系统性，源于反映并强化人类中心主义等级结构的数据集。
• 图像识别系统常错误分类或贬低非人类动物，尤其是在养殖或野生动物监测等语境中。
• 大型语言模型生成的内容往往使动物剥削正常化，例如推广肉类消费或为动物实验辩护。
• YouTube和社交媒体等平台的推荐系统会放大宣扬动物虐待或物种歧视叙事的内容。
• 当前人工智能公平性文献在很大程度上忽略了非人类动物，形成了显著的伦理盲区。
• 人工智能有潜力加剧或减轻动物痛苦，具体取决于在系统设计中是否主动应对物种歧视偏见。