[論文レビュー] Delegation to autonomous agents promotes cooperation in collective-risk dilemmas

Elias Fernández Domingos, Inês Terrucha+5 more|arXiv (Cornell University)|Mar 13, 2021

Evolutionary Game Theory and Cooperation参考文献 41被引用数 4

ひとこと要約

本研究では、意思決定を自律的エージェントに委譲することが、不確実で高額な結果を伴う集団的リスクジレンマ（CRD）における協力に与える影響を調査している。結果として、エージェントがカスタマイズ可能である場合を除き、エージェントへの委譲はグループの協力を促進するが、ハイブリッドな人間・エージェントグループでは、エージェントに対する一貫したバイアスが見られる。

ABSTRACT

Home assistant chat-bots, self-driving cars, drones or automated negotiations are some of the several examples of autonomous (artificial) agents that have pervaded our society. These agents enable the automation of multiple tasks, saving time and (human) effort. However, their presence in social settings raises the need for a better understanding of their effect on social interactions and how they may be used to enhance cooperation towards the public good, instead of hindering it. To this end, we present an experimental study of human delegation to autonomous agents and hybrid human-agent interactions centered on a public goods dilemma shaped by a collective risk. Our aim to understand experimentally whether the presence of autonomous agents has a positive or negative impact on social behaviour, fairness and cooperation in such a dilemma. Our results show that cooperation increases when participants delegate their actions to an artificial agent that plays on their behalf. Yet, this positive effect is reduced when humans interact in hybrid human-agent groups. Finally, we show that humans are biased towards agent behaviour, assuming that they will contribute less to the collective effort.

研究の動機と目的

• 意思決定を自律的エージェントに委譲することで、集団的リスクジレンマ（CRD）における協力が向上するかどうかを検証すること。CRDでは、グループの失敗が全損失を引き起こすリスクを伴う。
• 特に公平性や貢献水準といった、人間がエージェントの行動をどのように認識するかが、ハイブリッドな人間・エージェントグループにおける協力に与える影響を評価すること。
• エージェントのカスタマイズが可能かどうかが、委譲率や協力の結果に与える影響を調査すること。
• 社会的ジレンマにおいて、人間が人工エージェントに意思決定を委ねる際の信頼と制御の役割を明らかにすること。
• 集団的リスク下でのグループ意思決定において、人間とエージェントの貢献に対する人間の認識バイアスを同定すること。

提案手法

• 6名の参加者からなるグループを対象に、10ラウンドの集団的リスクジレンマ（CRD）を用いた実験的調査を実施。各参加者は40 EMUの初期資産を有し、1ラウンドあたり0、2、または4 EMUを公共口座に貢献する必要がある。
• グループの失敗リスクが90％である制御条件を導入。これは、貢献額が120 EMUに満たない場合に発生する。
• 委譲処理として、参加者が事前に定義された自律的エージェントのセットから選択し、自らの代わりに行動させる条件を導入。
• カスタマイズ処理として、参加者が個人の価値観に基づいてエージェントの貢献戦略をプログラムできるようにした。
• ハイブリッドグループ処理として、人間とエージェントが混在するグループを設定。参加者は誰が人間で誰がエージェントかを知らない状態で相互作用を行った。
• 行動データ、貢献水準、および実験後の認識アンケートを用いて、協力、バイアス、エージェントへの信頼を分析した。

実験結果

リサーチクエスチョン

• RQ1 自律的エージェントに意思決定を委譲することで、直接の人間の意思決定と比較して、集団的リスクジレンマにおける協力が向上するか？
• RQ2 エージェントの行動をカスタマイズできる能力が、委譲の可能性およびその後の協力に与える影響は何か？
• RQ3 ハイブリッドな人間・エージェントグループにおいて、参加者が自律的エージェントと人間の貢献をどのように認識するか？
• RQ4 自律的エージェントに対して一貫したバイアスが存在し、実際の貢献よりも低いと誤って認識される傾向があるか？
• RQ5 ハイブリッドグループに自律的エージェントが存在することで、人間の協力行動や責任帰属のパターンが変化するか？

主な発見

• 直接的人間参加と比較して、自律的エージェントへの委譲はCRDにおける協力率を顕著に向上させ、総貢献額が増加し、成功確率も向上した。
• エージェントをカスタマイズできる参加者は、カスタマイズ不可の条件と比較して2倍以上にのぼる（58.3％ vs. 25.0％）ことが示され、カスタマイズが信頼を高めることを示している。
• 失敗したグループでは、80％の参加者が実際の貢献よりも人間の貢献が高いと誤認したが、エージェントは平均で0.33％多く貢献していた。
• 成功したグループでも、48.48％の参加者が人間の貢献が高いと誤認したが、実際にはエージェントが人間より8.48％多く貢献していた。
• エージェントがより多く貢献しているにもかかわらず、参加者は一貫してエージェントを協力的でないと認識しており、人工エージェントに自己中心的であると結びつける強いバイアスが明らかになった。
• ハイブリッドグループに自律的エージェントが存在することで、裏切りを避けたい心理（裏切り回避）が軽減された。これは、社会的シグナルが不明瞭な状況において、エージェントが協力を安定化させる役割を果たす可能性を示唆している。