[论文解读] Delegation to autonomous agents promotes cooperation in collective-risk dilemmas

Elias Fernández Domingos, Inês Terrucha+5 more|arXiv (Cornell University)|Mar 13, 2021

Evolutionary Game Theory and Cooperation参考文献 41被引用 4

一句话总结

本研究探讨将决策委托给自主代理如何影响集体风险困境（CRD）中的合作行为，CRD是一种具有不确定且高风险结果的公共品博弈。结果表明，将决策委托给代理可提高群体合作水平，尤其在代理可定制时效果更显著；然而，尽管代理贡献更高，混合人机群体中仍存在对代理的持续偏见。

ABSTRACT

Home assistant chat-bots, self-driving cars, drones or automated negotiations are some of the several examples of autonomous (artificial) agents that have pervaded our society. These agents enable the automation of multiple tasks, saving time and (human) effort. However, their presence in social settings raises the need for a better understanding of their effect on social interactions and how they may be used to enhance cooperation towards the public good, instead of hindering it. To this end, we present an experimental study of human delegation to autonomous agents and hybrid human-agent interactions centered on a public goods dilemma shaped by a collective risk. Our aim to understand experimentally whether the presence of autonomous agents has a positive or negative impact on social behaviour, fairness and cooperation in such a dilemma. Our results show that cooperation increases when participants delegate their actions to an artificial agent that plays on their behalf. Yet, this positive effect is reduced when humans interact in hybrid human-agent groups. Finally, we show that humans are biased towards agent behaviour, assuming that they will contribute less to the collective effort.

研究动机与目标

• 检验将决策委托给自主代理是否能提升集体风险困境（CRD）中的合作水平，CRD中群体失败可能导致全部损失。
• 评估人类对代理行为（尤其是公平性与贡献水平）的感知如何影响混合人机群体中的合作行为。
• 探究定制代理的能力是否影响委托率与合作结果。
• 探索在社会困境中，信任与控制在人类委托人工代理过程中的作用。
• 识别在集体风险情境下，人类对代理与人类贡献的感知偏差。

提出的方法

• 通过10轮集体风险困境（CRD）实验开展研究，每组6名参与者，每人初始拥有40 EMUs，每轮需向公共账户贡献0、2或4 EMUs。
• 基于先前CRD实验设置控制条件：若贡献总额未达120 EMUs，则群体有90%的概率失败。
• 引入委托处理条件，参与者可从一组预设的自主代理中选择代表其行动。
• 引入定制化处理条件，允许参与者根据个人规范编程其代理的贡献策略。
• 开展混合群体处理条件，参与者以包含人类与代理的混合群体形式互动，且无法识别对方是人类还是代理。
• 利用行为数据、贡献水平及实验后感知调查问卷，分析合作、偏见与对代理的信任。

实验结果

研究问题

• RQ1 与直接人类决策相比，将决策委托给自主代理是否能提高集体风险困境中的合作水平？
• RQ2 定制代理行为的能力如何影响委托的可能性及后续的合作水平？
• RQ3 在混合人机群体中，人类参与者如何感知代理与人类的贡献？
• RQ4 是否存在对自主代理的持续偏见，导致参与者错误认为代理的贡献低于实际水平？
• RQ5 在混合群体中，自主代理的存在是否改变了人类的合作模式或责任归因方式？

主要发现

• 与直接人类参与相比，将决策委托给自主代理显著提高了CRD中的合作率，表现为总贡献更高且成功概率提升。
• 能够定制其代理的参与者，其委托意愿是不可定制委托组的两倍以上（58.3% vs. 25.0%），表明定制化可增强信任。
• 在失败组中，80%的参与者错误地认为人类贡献高于代理，尽管代理平均贡献高出0.33%。
• 即使在成功组中，48.48%的参与者仍认为人类贡献高于代理，尽管代理实际贡献高出8.48%。
• 尽管代理贡献更高，参与者仍持续将代理视为合作性更低，揭示出一种强烈偏见：人们倾向于将自私性与人工代理联系起来。
• 在混合群体中，自主代理的存在降低了背叛厌恶，表明当社交线索模糊时，代理可能有助于稳定合作。