[논문 리뷰] Normative Equivalence in Human-AI Cooperation: Behaviour, Not Identity, Drives Cooperation in Mixed-Agent Groups

Nico Mutzner, Taha Yasseri외 1명|arXiv (Cornell University)|2026. 01. 28.

Psychology of Moral and Emotional Judgment인용 수 1

한 줄 요약

네 가지 플레이어의 공공재 게임에서 협력 역학은 파트너가 인간으로 라벨링되었는지 AI로 라벨링되었는지의 여부가 아니라 그룹 행동 및 규범 기대에 의해 주도되며, 인간–AI 혼합 그룹에서 규범적 동등성이 있음을 시사한다.

ABSTRACT

The introduction of artificial intelligence (AI) agents into human group settings raises essential questions about how these novel participants influence cooperative social norms. While previous studies on human-AI cooperation have primarily focused on dyadic interactions, little is known about how integrating AI agents affects the emergence and maintenance of cooperative norms in small groups. This study addresses this gap through an online experiment using a repeated four-player Public Goods Game (PGG). Each group consisted of three human participants and one bot, which was framed either as human or AI and followed one of three predefined decision strategies: unconditional cooperation, conditional cooperation, or free-riding. In our sample of 236 participants, we found that reciprocal group dynamics and behavioural inertia primarily drove cooperation. These normative mechanisms operated identically across conditions, resulting in cooperation levels that did not differ significantly between human and AI labels. Furthermore, we found no evidence of differences in norm persistence in a follow-up Prisoner's Dilemma, or in participants' normative perceptions. Participants' behaviour followed the same normative logic across human and AI conditions, indicating that cooperation depended on group behaviour rather than partner identity. This supports a pattern of normative equivalence, in which the mechanisms that sustain cooperation function similarly in mixed human-AI and all human groups. These findings suggest that cooperative norms are flexible enough to extend to artificial agents, blurring the boundary between humans and AI in collective decision-making.

연구 동기 및 목표

• 소규모 그룹에서 한 구성원이 AI로 라벨링될 때 협력 규범이 전부 인간인 그룹과 비교해 달라지는지 탐색한다.
• 봇의 전략(무조건 협력자, 조건부 협력자, 무임승차자)이 그룹 협력 및 규범 형성에 어떻게 영향을 미치는지 조사한다.
• 일회성의 죄수의 딜레마 및 규범 도출 측정치를 사용하여 그룹 맥락 너머의 규범 지속성을 평가한다.

제안 방법

• 피험자 간 2x3 설계를 사용한 네 사람 그룹(세 명의 인간 + 한 봇)에서 라벨(인간 vs AI)과 봇 전략(Unconditional Cooperator, Conditional Cooperator, Free-Rider)을 교차로 적용.
• 선형 공공재 게임 10라운드 후 일회성 죄수의 딜레마.
• 봇은 사전에 정의된 전략을 참가자에게 공개 없이 따랐고, 기여는 1.5배로 변환되어 동등하게 재분배되었다.
• 규범 도출 과제에서 사회적 적합성, 실증적 규범, 권고적 규범을 측정했다.
• 사전 등록 및 강건성 검사가 포함되었으며, PGG를 완료한 샘플 크기는 236으로 최종 확정되었다.

Figure 1 : Schematic representation of the experimental design and PGG mechanics

실험 결과

연구 질문

• RQ1 혼합 그룹 설정에서 AI 라벨이 붙은 봇이 인간 라벨 봇에 비해 협력이나 규범 영향력을 감소시키는가?
• RQ2 봇 전략(무조건적, 조건부, 자유승차자)이 그룹의 협력 및 규범 형성에 어떤 영향을 미치는가?
• RQ3 이후의 일회성 죄수의 딜레마에서 규범 지속성이 에이전트의 라벨이나 전략에 의해 영향을 받는가?
• RQ4 참가자의 규범 인식(사회적 적합성, 실증적/권고적 규범)이 에이전트 라벨에 따라 차이가 있는가?

주요 결과

• 협력 수준은 인간 라벨과 AI 라벨에서 비슷했으며; AI 라벨링이 기여를 유의하게 감소시키지 않았다.
• 평균 협력에 대한 봇 전략 효과는 작았고 통계적으로 유의하지 않았다.
• 규범적 메커니즘(조건부 협력, 타인에 대한 반응성, 관성)이 두 처리에서 협력을 지배했다.
• 일회성 PD에서의 규범 지속성은 라벨이나 봇 전략에 따라 차이가 없었고, 이전 그룹 기여가 두 조건에서 PD 협력을 예측했다.
• 과제 종료 후의 규범 인식은 처리 간에 일치했으며, 인간 그룹과 AI 그룹 간의 사회적 적합성이나 규범 기대의 의미 있는 차이가 없었다.
• 신뢰는 전반적으로 더 높은 기여를 예측했다; AI 조건에서 신뢰와 규범적 압박이 협력을 증가시켰으나, AI 수용은 더 낮은 기여를 예측해 알고리즘 회피 효과를 시사한다.

Figure 2 : Mean Contribution per Round by Treatment and Bot Strategy.