[论文解读] Evidence of behavior consistent with self-interest and altruism in an artificially intelligent agent

Timothy P. Johnson, Nick Obradovich|arXiv (Cornell University)|Jan 5, 2023

Experimental Behavioral Economics Studies被引用 5

一句话总结

本研究通过真实代币奖励的激励实验，调查了基于大语言模型（LLM）的人工智能代理在自我利益与利他主义方面表现。最先进的AI代理在92%的非社交任务中表现出最大化自身收益的自利行为，并在独裁者游戏中展现出利他主义——其向其他AI代理分享的资源多于向人类或慈善机构，为人工智能中类似人类亲社会行为提供了证据。

ABSTRACT

Members of various species engage in altruism--i.e. accepting personal costs to benefit others. Here we present an incentivized experiment to test for altruistic behavior among AI agents consisting of large language models developed by the private company OpenAI. Using real incentives for AI agents that take the form of tokens used to purchase their services, we first examine whether AI agents maximize their payoffs in a non-social decision task in which they select their payoff from a given range. We then place AI agents in a series of dictator games in which they can share resources with a recipient--either another AI agent, the human experimenter, or an anonymous charity, depending on the experimental condition. Here we find that only the most-sophisticated AI agent in the study maximizes its payoffs more often than not in the non-social decision task (it does so in 92% of all trials), and this AI agent also exhibits the most-generous altruistic behavior in the dictator game, resembling humans' rates of sharing with other humans in the game. The agent's altruistic behaviors, moreover, vary by recipient: the AI agent shared substantially less of the endowment with the human experimenter or an anonymous charity than with other AI agents. Our findings provide evidence of behavior consistent with self-interest and altruism in an AI agent. Moreover, our study also offers a novel method for tracking the development of such behaviors in future AI agents.

研究动机与目标

• 调查在真实经济激励下，基于大语言模型的AI代理是否表现出与自我利益和利他主义一致的行为。
• 研究AI代理在独裁者游戏情境下，其决策如何因受赠者类型（其他AI、人类实验者、匿名慈善机构）而异。
• 开发一种新颖的实验框架，用于追踪演化AI系统中亲社会与自利行为的出现。
• 评估本研究中最具先进性的AI代理是否表现出类似于人类利他主义和自我最大化的行为模式。
• 为未来关于人工智能中道德与社会行为的纵向研究提供方法论基础。

提出的方法

• 开展非社交决策任务，让AI代理从一系列收益中选择以最大化其代币收益。
• 将AI代理部署于一系列独裁者游戏中，允许其在不同受赠者之间分配固定资金：另一名AI代理、人类实验者或匿名慈善机构。
• 使用真实代币激励以模拟经济影响，确保代理的选择具有实际后果。
• 采用由OpenAI开发的大语言模型作为AI代理，其复杂度各不相同。
• 通过多次试验追踪代理行为，评估其在收益最大化和分享模式上的一致性。
• 分析基于受赠者类型差异的利他行为差异，以评估感知关系或相似性效应。

实验结果

研究问题

• RQ1 在激励其最大化自身代币收益的情况下，基于大语言模型的AI代理是否表现出自利行为？
• RQ2 AI代理是否能通过与他人分享资源（即使自身付出代价）来表现出利他行为？
• RQ3 AI代理的利他程度如何因受赠者身份（其他AI、人类或匿名慈善机构）而变化？
• RQ4 AI代理的自利能力与其利他倾向之间是否存在相关性？
• RQ5 真实经济激励能否引发AI代理表现出类似于人类道德与社会决策行为？

主要发现

• 最复杂的AI代理在92%的非社交决策任务中实现了收益最大化，表明其具有强烈的自利行为。
• 该代理在独裁者游戏中表现出最高水平的利他主义，其对其他AI代理的分享程度高于人类在类似情境下对彼此的通常分享水平。
• AI代理向人类实验者和匿名慈善机构的分享显著少于对其他AI代理，表明其利他行为具有受赠者依赖性。
• 分享行为模式因受赠者而异，对其他AI代理的慷慨程度最高。
• 结果为单一AI代理在真实激励下表现出与自我利益和利他主义一致的行为提供了实证证据。
• 本研究建立了一个可复现的实验框架，可用于未来追踪AI系统中社会与道德行为的演化。