[論文レビュー] Speciesist bias in AI -- How AI applications perpetuate discrimination and unfair outcomes against animals

Thilo Hagendorff, Leonie Bossert+2 more|arXiv (Cornell University)|Feb 22, 2022

Law, AI, and Intellectual Property被引用数 6

ひとこと要約

本稿はAIにおける「種族的偏見（speciesist bias）」の概念を導入し、機械学習システムが偏った訓練データから学習・強化することで、特に家畜化された動物に対する差別を継続的に生み出していることを探る。画像認識、言語モデル、レコメンデーションシステムが動物への害を正常化する要因となっていることを示し、AIの公平性フレームワークが種族的偏見の是正を含めるべきだと提言する。

ABSTRACT

Massive efforts are made to reduce biases in both data and algorithms in order to render AI applications fair. These efforts are propelled by various high-profile cases where biased algorithmic decision-making caused harm to women, people of color, minorities, etc. However, the AI fairness field still succumbs to a blind spot, namely its insensitivity to discrimination against animals. This paper is the first to describe the 'speciesist bias' and investigate it in several different AI systems. Speciesist biases are learned and solidified by AI applications when they are trained on datasets in which speciesist patterns prevail. These patterns can be found in image recognition systems, large language models, and recommender systems. Therefore, AI technologies currently play a significant role in perpetuating and normalizing violence against animals. This can only be changed when AI fairness frameworks widen their scope and include mitigation measures for speciesist biases. This paper addresses the AI community in this regard and stresses the influence AI systems can have on either increasing or reducing the violence that is inflicted on animals, and especially on farmed animals.

研究の動機と目的

• AIシステムにおける『種族的偏見』を新たな系統的差別の形態として同定・定義すること。
• 画像認識、言語モデル、レコメンデーションシステムを含むAIアプリケーションが、動物に対して不平等な結果を生み出している仕組みを調査すること。
• 訓練データが、動物への暴力を正常化する種族的パターンを埋め込み・強化する役割を強調すること。
• AI公平性コミュニティが現在のフレームワークを拡張し、種族的偏見の是正を含めるべきだと提言すること。
• AI開発者が、とりわけ家畜化された動物に対して、動物の苦しみを増幅または軽減する倫理的責任を強調すること。

提案手法

• 画像認識、大規模言語モデル、レコメンデーションシステムといった既存のAIシステムを分析し、種族的偏見のパターンを特定すること。
• AI開発に使われる訓練データセットを検討し、埋め込まれた種族的規範や前提を同定すること。
• 批判理論と動物倫理学を援用して、種族主義を系統的差別の形態として枠組みづけること。
• 事例研究を通じて、AIシステムが人間と非人間動物の間の既存の力の不均衡を強化している様子を示すこと。
• AI公平性評価において種族的偏見を同定・測定するための概念的フレームワークを提言すること。
• 動物福祉の考慮事項をAI公平性評価基準に統合するよう提唱すること。

実験結果

リサーチクエスチョン

• RQ1 AIシステムは、訓練データと意思決定プロセスを通じて、どのように種族的態度を再現・強化しているのか？
• RQ2 画像認識、大規模言語モデル、レコメンデーションシステムは、動物への苦しみの正常化にどのように寄与しているのか？
• RQ3 なぜAI公平性コミュニティは歴史的に動物に対する差別を無視してきたのか。この見過ごしの倫理的含意は何か？
• RQ4 AI開発におけるどのようなメカニズムが、種族的偏見を根強く定着させ、システム的に行うのか？
• RQ5 現在のAI公平性フレームワークは、どのようにして種族的偏見の是正を含めるように拡張できるか？

主な発見

• AIにおける種族的偏見は実在するシステム的問題であり、人間中心の階層を反映・強化するデータセットから生じる。
• 画像認識システムは、特に畜産や野生生物モニタリングの文脈において、非人間の動物を誤分類したり、価値を下げる傾向がある。
• 大規模言語モデルは、肉食の推奨や動物実験の正当化といった、動物搾取を正常化するコンテンツを生成する。
• YouTube やソーシャルメディアなどのプラットフォームのレコメンデーションシステムは、動物虐待や種族的ナラティブを促進するコンテンツを拡散する。
• 現在のAI公平性文献は、非人間の動物をほとんど考慮せず、重大な倫理的盲点を生じさせている。
• AIは、種族的偏見がシステム設計段階で能動的に是正されるかどうかにかかわらず、動物の苦しみを悪化させたり、軽減させたりする可能性を秘めている。