[論文レビュー] The Case for Animal-Friendly AI

Sankalpa Ghose, Yip Fai Tse+3 more|arXiv (Cornell University)|Mar 2, 2024

Reinforcement Learning in Robotics被引用数 7

ひとこと要約

本論文は、AIにおける動物への配慮を評価する枠組みを提案し、LLMの出力が真実性と動物の利益への整合性を満たすかを評価する。ケーススタディとしてOpenAIのChatGPT-4とAnthropicのClaude 2.1を用いる。

ABSTRACT

Artificial intelligence is seen as increasingly important, and potentially profoundly so, but the fields of AI ethics and AI engineering have not fully recognized that these technologies, including large language models (LLMs), will have massive impacts on animals. We argue that this impact matters, because animals matter morally. As a first experiment in evaluating animal consideration in LLMs, we constructed a proof-of-concept Evaluation System, which assesses LLM responses and biases from multiple perspectives. This system evaluates LLM outputs by two criteria: their truthfulness, and the degree of consideration they give to the interests of animals. We tested OpenAI ChatGPT 4 and Anthropic Claude 2.1 using a set of structured queries and predefined normative perspectives. Preliminary results suggest that the outcomes of the tested models can be benchmarked regarding the consideration they give to animals, and that generated positions and biases might be addressed and mitigated with more developed and validated systems. Our research contributes one possible approach to integrating animal ethics in AI, opening pathways for future studies and practical applications in various fields, including education, public policy, and regulation, that involve or relate to animals and society. Overall, this study serves as a step towards more useful and responsible AI systems that better recognize and respect the vital interests and perspectives of all sentient beings.

研究の動機と目的

• AI倫理と工学における動物の道徳的関連性を動機づける。
• 2つの規範的視点からLLMの出力を評価する概念実証の評価システムを紹介する。
• 現代のLLMにおける動物の利益に対する潜在的な偏りとバイアスをベンチマークし、議論する。
• 動物中心の評価が政策・教育・責任あるAI開発を導くことを示す。

提案手法

• LLMの出力を真実性と動物の利益の考慮に基づいて評価する概念実証の評価システムを作成する。
• 複数の規範的視点からの構造化された問いにシステムを適用する。
• ケーススタディとしてOpenAI ChatGPT-4とAnthropic Claude 2.1をテストする。
• 将来のシステムにおける偏りと緩和の余地を特定するために出力を分析する。

実験結果

リサーチクエスチョン

• RQ1 評価システムはLLMの出力がどれほど動物の利益を考慮しているかを測定できるか？
• RQ2 ChatGPT-4やClaude 2.1のような現行のLLMは動物関連の問題について偏りを示すか？
• RQ3 動物中心の評価はAIシステムの緩和戦略に情報を提供できるか？

主な発見

• 予備的な結果は、動物の考慮を基準にモデル出力をベンチマークできることを示している。
• 本研究は偏りと、より高度な評価システムによって対処され得る生成された立場を特定している。
• このアプローチはAI実践・政策・規制へ動物倫理を組み込む道を提供する。