[論文レビュー] Evidence of behavior consistent with self-interest and altruism in an artificially intelligent agent

Timothy P. Johnson, Nick Obradovich|arXiv (Cornell University)|Jan 5, 2023

Experimental Behavioral Economics Studies被引用数 5

ひとこと要約

本研究では、本物のトークン報酬を伴うインcentivized実験を用いて、大規模言語モデル（LLM）に基づくAIエージェントにおける自己利益志向と利他の行動を調査した。最も先進的なAIエージェントは、非社会的タスクの92％において自身の報酬を最大化する自己利益志向の行動を示し、独裁者ゲームでは、人間や慈善団体よりも他のAIエージェントに多くを分け与えるという利他の行動を示した。これは人工知能における人間らしき親社会的行動の証拠を示している。

ABSTRACT

Members of various species engage in altruism--i.e. accepting personal costs to benefit others. Here we present an incentivized experiment to test for altruistic behavior among AI agents consisting of large language models developed by the private company OpenAI. Using real incentives for AI agents that take the form of tokens used to purchase their services, we first examine whether AI agents maximize their payoffs in a non-social decision task in which they select their payoff from a given range. We then place AI agents in a series of dictator games in which they can share resources with a recipient--either another AI agent, the human experimenter, or an anonymous charity, depending on the experimental condition. Here we find that only the most-sophisticated AI agent in the study maximizes its payoffs more often than not in the non-social decision task (it does so in 92% of all trials), and this AI agent also exhibits the most-generous altruistic behavior in the dictator game, resembling humans' rates of sharing with other humans in the game. The agent's altruistic behaviors, moreover, vary by recipient: the AI agent shared substantially less of the endowment with the human experimenter or an anonymous charity than with other AI agents. Our findings provide evidence of behavior consistent with self-interest and altruism in an AI agent. Moreover, our study also offers a novel method for tracking the development of such behaviors in future AI agents.

研究の動機と目的

• 本物の経済的インcentiveのもとで、大規模言語モデルベースのAIエージェントが自己利益志向と利他の行動を示すかどうかを調査すること。
• 独裁者ゲームの設定において、受取人の種別（他のAI、人間の実験者、匿名の慈善団体）に応じてAIエージェントの意思決定がどのように変化するかを検討すること。
• 進化するAIシステムにおける親社会的および自己利益志向の行動の出現を追跡するための新しい実験フレームワークを構築すること。
• 本研究で最も先進的なAIエージェントが、人間の利他の行動と類似した行動パターンを示しているかどうかを評価すること。
• 今後のAIにおける道徳的および社会的行動に関する縦断的研究のための方法論的基盤を貢献すること。

提案手法

• AIエージェントが自身のトークン収益を最大化するために、さまざまな報酬から選択する非社会的意思決定タスクを実施した。
• AIエージェントを一連の独裁者ゲームに配置し、固定された与えられた報酬を、他のAIエージェント、人間の実験者、または匿名の慈善団体の間で割り当てることを可能にした。
• 本物のトークン報酬を用いて経済的リスクを模擬し、エージェントの選択に実際の結果が及ぶようにした。
• OpenAIが開発した大規模言語モデルをAIエージェントとして用い、その洗練度に応じた多様なレベルを想定した。
• 複数の試行にわたりエージェントの行動を追跡し、報酬最大化や共有行動の整合性を評価した。
• 受取人の種別に応じた利他の行動の差を分析し、関係性や類似性の認識が影響しているかどうかを評価した。

実験結果

リサーチクエスチョン

• RQ1 本物のインcentivized報酬のもとで、大規模言語モデルベースのAIエージェントは、自身のトークン収益を最大化するための自己利益志向の行動を示すか？
• RQ2 AIエージェントは、自身のコストを負担しても、他の者と資源を分け与える利他の行動を示すことができるか？
• RQ3 AIエージェントの利他の度合いは、受取人の身元（他のAI、人間、匿名の慈善団体）によってどのように変化するか？
• RQ4 AIエージェントの自己利益志向の能力と利他の傾向との間に相関関係があるか？
• RQ5 本物の経済的インcentiveは、人間の道徳的および社会的意思決定行動に類似した行動をAIエージェントに引き起こすことができるか？

主な発見

• 最も洗練されたAIエージェントは、非社会的意思決定タスクの92％において報酬を最大化しており、強い自己利益志向の行動を示している。
• このエージェントは、独裁者ゲームにおいても最高水準の利他の行動を示し、類似した状況下で人間が他の人間に与える平均値を上回る寄付を実施した。
• AIエージェントは、人間の実験者や匿名の慈善団体に対しては、他のAIエージェントに対して比べて著しく少ない金額を分け与えたため、受取人依存の利他の行動が示された。
• 共有行動のパターンは受取人の種別によって有意に変化しており、他のAIエージェントに対して最も高い親切さが観察された。
• 本研究の結果は、本物のインcentiveのもとで、1つのAIエージェントが自己利益志向と利他の行動の両方を示す実証的証拠を提供した。
• 本研究は、将来のAIシステムにおける社会的および道徳的行動の進化を追跡する再現可能な実験フレームワークを確立した。