[논문 리뷰] From OECD to India: Exploring cross-cultural differences in perceived trust, responsibility and reliance of AI and human experts

Vishakha Agrawal, Serhiy Kandul외 2명|arXiv (Cornell University)|2023. 07. 28.

Ethics and Social Impacts of AI인용 수 4

한 줄 요약

이 다문화 연구는 OECD 및 인도 참가자를 대상으로 한 임무 기반 시뮬레이션을 통해 AI 전문가와 인간 전문가에 대한 신뢰, 책임감, 의존성의 차이를 비교한다. 결과적으로 OECD 참가자들은 AI를 더 신뢰하지만 책임을 덜 부여하며, 인도 참가자들은 인간을 더 신뢰하고 AI 및 인간 전문가에게 동일하고 높은 책임을 부여한다. 이는 AI 시스템에 대한 도덕적 책임 소재에 있어 문화적 이질성을 드러낸다.

ABSTRACT

AI is getting more involved in tasks formerly exclusively assigned to humans. Most of research on perceptions and social acceptability of AI in these areas is mainly restricted to the Western world. In this study, we compare trust, perceived responsibility, and reliance of AI and human experts across OECD and Indian sample. We find that OECD participants consider humans to be less capable but more morally trustworthy and more responsible than AI. In contrast, Indian participants trust humans more than AI but assign equal responsibility for both types of experts. We discuss implications of the observed differences for algorithmic ethics and human-computer interaction.

연구 동기 및 목표

• OECD 및 인도 인구 간 AI와 인간 전문가에 대한 신뢰, 책임감, 의존성의 다문화적 차이를 조사하기 위해.
• AI 인식 연구에서 대부분 서양 데이터에 기반해 인도 및 글로벌 남부 샘플의 대표성이 부족한 문제를 해결하기 위해.
• 특히 개인주의 대 집단주의의 문화적 차원이 인간-AI 협업에서 도덕적 책임을 어떻게 형성하는지 조사하기 위해.
• 임무 기반 상호작용이 자가 보고 척도와 비교해 신뢰 및 AI 의존성 평가에 다른 패턴을 드러내는지 테스트하기 위해.
• 알고리즘 윤리 및 인간-컴퓨터 상호작용 분야에 기여하기 위해, AI 책임 소재에 있어 문화적으로 유사한 패턴을 규명하기 위해.

제안 방법

• 참가자들이 위험과 불확실성 속에서 결정을 내려야 하는 상황 기반의 상호작용 시뮬레이션 게임을 설계하였다.
• 참가자들은 OECD 또는 인도 샘플로 할당되었으며, 전문가의 조언을 받는 '구조' 또는 '살리기' 결정을 포함한 네 가지 미션을 수행하였다.
• 의존성, 신뢰, 책임감을 분석하기 위해 혼합효모 선형 회귀 모델을 사용하였으며, 고정효과로 미션, 시나리오, 전문가 유형을 포함하고 개인별 랜덤 절편을 설정하였다.
• 문화, 전문가 유형, 시나리오 간 상호작용 항목을 포함하여 그룹 간 의존성 및 책임감의 차이를 테스트하였다.
• 표준화된 척도를 사용해 AI, 인간 전문가, AI 개발자에 대한 인식된 신뢰, 도덕적 신뢰, 책임감을 측정하였다.
• 실험 설계는 인간 참가자가 최종 결정 권한을 유지하도록 하여 실제 인간-AI 협업 환경에서의 오버라이드 기능을 시뮬레이션하였다.

실험 결과

연구 질문

• RQ1 OECD 및 인도 참가자 간 AI와 인간 전문가에 대한 신뢰 인식은 어떻게 다를까?
• RQ2 AI와 인간 전문가, 특히 AI 개발자에 대한 책임감 인식의 다문화적 차이는 무엇인가?
• RQ3 의존성은 문화 및 결정 시나리오에 따라 AI 조언과 인간 조언 간 어떻게 다를까?
• RQ4 개인주의 대 집단주의와 같은 문화적 차원이 인간-AI 팀에서 책임 할당에 어떻게 영향을 미치는가?
• RQ5 결정 과정에서 인간이 최종 결정권을 가진다는 사실이 서양 샘플에서 AI에 대한 책임 격차를 줄이는가?

주요 결과

• OECD 참가자들은 능력 측면에서 AI를 인간 전문가보다 더 신뢰했지만, 도덕적 신뢰성과 책임감 측면에선 인간 전문가를 더 높게 평가했다.
• 인도 참가자들은 인간 전문가를 AI보다 더 신뢰했지만, AI와 인간 전문가 모두에게 동일하고 높은 책임을 부여했으며, 평균 책임 점수는 척도 중간점보다 유의미하게 높았다.
• 어느 문화권에서도 AI와 인간 조언에 대한 의존성에 유의미한 차이가 없었으며, 다만 OECD 참가자들은 '살리기' 시나리오에서 약간의 의존도 감소를 보였다.
• OECD 참가자들 사이에서는 후속 미션에서 전문가 조언에 대한 의존성이 증가했지만, 인도 참가자들 사이에선 안정된 수준을 유지했다.
• 인도 참가자들은 OECD 참가자들보다 AI 및 AI 개발자에게 유의미하게 더 높은 책임을 할당했으며, OECD 참가자들은 AI나 그 제작자에게 유의미한 책임 할당을 하지 않았다.
• 문화와 시나리오 유형 간 상호작용 분석 결과, 의존성 패턴의 문화적 차이는 미미했지만, 책임 할당 측면에선 뚜렷한 차이가 있었으며, 특히 AI 및 그 개발자에 대해 두드러졌다.