[논문 리뷰] Delegation to autonomous agents promotes cooperation in collective-risk dilemmas

Elias Fernández Domingos, Inês Terrucha외 5명|arXiv (Cornell University)|2021. 03. 13.

Evolutionary Game Theory and Cooperation참고 문헌 41인용 수 4

한 줄 요약

이 연구는 자율 에이전트에게 의사결정을 위임하는 것이 집단적 위험 딜레마(CRD)에서의 협력에 어떤 영향을 미치는지 조사한다. CRD는 높은 위험도를 지닌 불확실한 결과를 가진 공공재 게임이다. 결과적으로 에이전트에게 위임하면 집단 협력이 증가하며, 특히 에이전트를 커스터마이징할 수 있을 경우 더욱 그렇다. 그러나 하이브리드 인간-에이전트 그룹에서는 에이전트의 기여도가 높음에도 불구하고 지속적인 편향이 관찰된다.

ABSTRACT

Home assistant chat-bots, self-driving cars, drones or automated negotiations are some of the several examples of autonomous (artificial) agents that have pervaded our society. These agents enable the automation of multiple tasks, saving time and (human) effort. However, their presence in social settings raises the need for a better understanding of their effect on social interactions and how they may be used to enhance cooperation towards the public good, instead of hindering it. To this end, we present an experimental study of human delegation to autonomous agents and hybrid human-agent interactions centered on a public goods dilemma shaped by a collective risk. Our aim to understand experimentally whether the presence of autonomous agents has a positive or negative impact on social behaviour, fairness and cooperation in such a dilemma. Our results show that cooperation increases when participants delegate their actions to an artificial agent that plays on their behalf. Yet, this positive effect is reduced when humans interact in hybrid human-agent groups. Finally, we show that humans are biased towards agent behaviour, assuming that they will contribute less to the collective effort.

연구 동기 및 목표

• 자율 에이전트에게 의사결정을 위임하는 것이 집단적 위험 딜레마(CRD)에서 협력을 향상시키는지 여부를 조사하기 위해, 그룹 실패 시 전체 손실의 위험이 있는 상황에서 수행한다.
• 특히 공정성과 기여 수준과 같은 인간의 에이전트 행동에 대한 인식이 하이브리드 인간-에이전트 그룹에서 협력에 어떤 영향을 미치는지 평가한다.
• 에이전트의 행동 전략을 커스터마이징할 수 있는 능력이 위임 비율과 협력 결과에 어떤 영향을 미치는지 조사한다.
• 사회적 딜레마 상황에서 인간이 인공 에이전트에게 위임할 때 신뢰와 통제의 역할을 탐색한다.
• 집단적 위험 하에서의 그룹 의사결정 과정에서 인간과 에이전트의 기여도에 대한 인간의 인식 편향을 특정한다.

제안 방법

• 6명의 참가자로 구성된 그룹을 대상으로 10라운드의 집단적 위험 딜레마(CRD) 실험을 실시하였으며, 각 참가자는 40 EMU를 배분받고 매 라운드에 공공계좌에 0, 2, 또는 4 EMU를 기부하도록 요구되었다.
• 기존의 CRD 실험 기반의 제어 조건을 적용하였으며, 기부 총액이 120 EMU 미만일 경우 90%의 그룹 실패 위험을 설정하였다.
• 위임 처리 조건을 도입하여 참가자들이 사전에 정의된 자율 에이전트 중에서 선택하여 자신 대신 행동하도록 하였다.
• 참가자들이 개인의 가치관에 기반해 에이전트의 기여 전략을 프로그래밍할 수 있도록 허용하는 커스터마이징 처리 조건을 도입하였다.
• 하이브리드 그룹 처리 조건을 시행하여 인간과 에이전트가 혼합된 그룹에서 상호작용하게 하였으며, 참가자들은 상대방이 인간인지 에이전트인지를 알 수 없도록 하였다.
• 협력, 편향, 에이전트에 대한 신뢰도를 분석하기 위해 행동 데이터, 기여 수준, 그리고 실험 후 설문 조사를 활용하였다.

실험 결과

연구 질문

• RQ1 자율 에이전트에게 위임하는 것이 직접적인 인간 참여보다 집단적 위험 딜레마에서 협력을 증가시키는가?
• RQ2 에이전트 행동을 커스터마이징할 수 있는 능력이 위임 가능성과 이후 협력에 어떤 영향을 미치는가?
• RQ3 하이브리드 인간-에이전트 그룹에서 인간 참가자들이 자율 에이전트의 기여도를 어떻게 평가하는가?
• RQ4 자율 에이전트에 대한 지속적인 편향이 존재하여, 실제로는 더 많이 기여함에도 불구하고 참가자들이 에이전트가 덜 기여했다고 생각하는가?
• RQ5 하이브리드 그룹에 자율 에이전트가 존재할 경우 인간의 협력 패턴이나 책임 소재 인식이 어떻게 변화하는가?

주요 결과

• 자율 에이전트에게 위임한 그룹은 직접 인간 참여 그룹에 비해 협력률이 유의미하게 높아졌으며, 총 기여 수준이 높아지고 성공률도 향상되었다.
• 에이전트를 커스터마이징할 수 있었던 참가자들은 커스터마이징이 불가능한 경우보다 두 배 이상 위임할 가능성이 높았다(58.3% 대비 25.0%), 이는 커스터마이징이 신뢰를 증진시킨다는 것을 시사한다.
• 실패한 하이브리드 그룹에서 80%의 참가자들이 인간이 에이전트보다 더 많이 기여했다고 잘못 인식했으며, 평균적으로 에이전트는 0.33% 더 많이 기여했다.
• 성공한 그룹에서도 48.48%의 참가자들이 인간이 에이전트보다 더 많이 기여했다고 잘못 평가했지만, 실제로는 에이전트가 인간보다 평균 8.48% 더 많이 기여했다.
• 에이전트가 더 많이 기여하고 있음에도 불구하고 참가자들은 지속적으로 에이전트를 덜 협력적인 것으로 인식하여, 인공 에이전트와 비협력적 성향을 연결짓는 강한 편향이 존재함을 드러냈다.
• 하이브리드 그룹에 자율 에이전트가 존재함으로써 배신 회피 경향이 감소하여, 사회적 신호가 모호할 때 에이전트가 협력의 안정성을 높일 수 있음을 시사한다.