[논문 리뷰] Speciesist bias in AI -- How AI applications perpetuate discrimination and unfair outcomes against animals

Thilo Hagendorff, Leonie Bossert외 2명|arXiv (Cornell University)|2022. 02. 22.

Law, AI, and Intellectual Property인용 수 6

한 줄 요약

이 논문은 인공지능에서 '종별적 편견'의 개념을 제안하며, 기계 학습 시스템이 편향된 훈련 데이터로부터 종별적 패턴을 학습하고 이를 강화함으로써 동물—특히 양식 동물—에 대한 차별을 지속시킨다고 밝힌다. 이미지 인식, 언어 모델, 추천 시스템이 모두 동물 피해를 정상화하는 데 기여하고 있음을 보여주며, AI 공정성 프레임워크가 종별적 편견 완화를 포함하도록 확장되어야 한다고 촉구한다.

ABSTRACT

Massive efforts are made to reduce biases in both data and algorithms in order to render AI applications fair. These efforts are propelled by various high-profile cases where biased algorithmic decision-making caused harm to women, people of color, minorities, etc. However, the AI fairness field still succumbs to a blind spot, namely its insensitivity to discrimination against animals. This paper is the first to describe the 'speciesist bias' and investigate it in several different AI systems. Speciesist biases are learned and solidified by AI applications when they are trained on datasets in which speciesist patterns prevail. These patterns can be found in image recognition systems, large language models, and recommender systems. Therefore, AI technologies currently play a significant role in perpetuating and normalizing violence against animals. This can only be changed when AI fairness frameworks widen their scope and include mitigation measures for speciesist biases. This paper addresses the AI community in this regard and stresses the influence AI systems can have on either increasing or reducing the violence that is inflicted on animals, and especially on farmed animals.

연구 동기 및 목표

• AI 시스템에서의 새로운 체계적 차별 형태로 '종별적 편견'을 규명하고 정의하는 것.
• 이미지 인식, 언어 모델, 추천 시스템을 포함한 AI 응용 프로그램이 동물에게 불공정한 결과를 초래하는 방식을 조사하는 것.
• 훈련 데이터가 종별적 패턴을 내재하고 이를 강화함으로써 동물에 대한 폭력 정상화에 기여하는 역할을 부각하는 것.
• AI 공정성 커뮤니티가 현재의 프레임워크를 확장하여 종별적 편견 완화를 포함하도록 촉구하는 것.
• AI 개발자가 동물 고통을 증가시키거나 감소시키는 데 있어 윤리적 책임을 강조하는 것—특히 양식 동물에 대해

제안 방법

• 종별적 편견의 패턴을 분석하기 위해 기존의 AI 시스템—이미지 인식, 대규모 언어 모델, 추천 시스템—을 분석하는 것.
• AI 개발에 사용된 훈련 데이터셋을 검토하여 내재된 종별적 규범과 가정을 식별하는 것.
• 비판 이론과 동물 윤리학을 활용하여 종차별를 체계적 차별의 한 형태로 프레임워크화하는 것.
• 사례 연구를 통해 AI 시스템이 인간과 비인간 동물 간 기존의 권력 불균형을 강화하는 방식을 설명하는 것.
• AI 공정성 평가에서 종별적 편견을 식별하고 측정하기 위한 개념적 프레임워크를 제안하는 것.
• 동물 복지 고려 사항을 AI 공정성 평가 기준에 통합할 것을 주장하는 것.

실험 결과

연구 질문

• RQ1 AI 시스템은 훈련 데이터와 의사결정 과정을 통해 종별적 태도를 어떻게 재생산하고 강화하는가?
• RQ2 이미지 인식, 대규모 언어 모델, 추천 시스템은 동물 고통의 정상화에 어떻게 기여하는가?
• RQ3 왜 AI 공정성 커뮤니티는 역사적으로 동물에 대한 차별을 간과해 왔으며, 이러한 무시의 윤리적 함의는 무엇인가?
• RQ4 AI 개발 과정에서 종별적 편견이 뿌리내리고 체계적으로 정착되는 메커니즘은 무엇인가?
• RQ5 기존의 AI 공정성 프레임워크는 어떻게 확장되어 종별적 편견 완화를 포함하게 할 수 있는가?

주요 결과

• AI에서의 종별적 편견은 실재하며 체계적인 것으로, 인간 중심의 계층을 반영하고 강화하는 데이터셋에서 유래한다.
• 이미지 인식 시스템은 농장이나 야생 동물 모니터링와 같은 맥락에서 비인간 동물을 자주 잘못 분류하거나 가치를 낮춘다.
• 대규모 언어 모델은 육식 소비를 장려하거나 동물 실험을 정당화하는 등 동물 착취를 정상화하는 콘텐츠를 생성한다.
• 유튜브나 소셜 미디어와 같은 플랫폼의 추천 시스템은 동물 학대나 종별적 서사를 장려하는 콘텐츠를 확산시킨다.
• 현재의 AI 공정성 문헌은 비인간 동물을 고려하지 않아 심각한 윤리적 맹점이 존재한다.
• AI는 종별적 편견이 제도적으로 대응되는지 여부에 따라 동물 고통을 악화시키거나 감소시킬 수 있다.