[논문 리뷰] Collecting the Public Perception of AI and Robot Rights

Gabriel Lima, Changyeon Kim외 3명|arXiv (Cornell University)|2020. 08. 04.

Psychology of Moral and Emotional Judgment참고 문헌 41인용 수 46

한 줄 요약

1270명의 온라인 참가자(추가로 164회 재현) 설문은 AI/로봇에 대한 11개의 잠재적 권리를 조사하고 오해를 해소하는 중재가 태도에 변화를 일으키는지 검증하며, 일반적인 반대에도 불구하고 잔혹한 처벌 및 대우에 대한 권리 지지가 증가하고 중재로 인한 태도 변화가 두드러진다는 것을 발견함.

ABSTRACT

Whether to give rights to artificial intelligence (AI) and robots has been a sensitive topic since the European Parliament proposed advanced robots could be granted "electronic personalities." Numerous scholars who favor or disfavor its feasibility have participated in the debate. This paper presents an experiment (N=1270) that 1) collects online users' first impressions of 11 possible rights that could be granted to autonomous electronic agents of the future and 2) examines whether debunking common misconceptions on the proposal modifies one's stance toward the issue. The results indicate that even though online users mainly disfavor AI and robot rights, they are supportive of protecting electronic agents from cruelty (i.e., favor the right against cruel treatment). Furthermore, people's perceptions became more positive when given information about rights-bearing non-human entities or myth-refuting statements. The style used to introduce AI and robot rights significantly affected how the participants perceived the proposal, similar to the way metaphors function in creating laws. For robustness, we repeated the experiment over a more representative sample of U.S. residents (N=164) and found that perceptions gathered from online users and those by the general population are similar.

연구 동기 및 목표

• 미래의 자율 AI 및 로봇에 적용될 수 있는 11개 권리에 대한 온라인 대중의 인식을 평가한다.
• 오해를 바로잡는 중재가 사람들이 AI/로봇 권리에 대한 입장을 바꿀 수 있는지 시험한다.
• 권리로 인식된 항목에 대한 제시 방식, 에이전트 유형, 자율성 수준이 인식된 권리에 미치는 영향을 조사한다.
• 온라인 MTurk 결과를 미국의 인구통계학적으로 대표적인 샘플과 비교해 강건성을 평가한다.

제안 방법

• 참여자에게 11개 권리를 선언문처럼 제시하고 문구 스타일(간접적/직접적/명시적)을 무작위로 배치하는 설계의 설문조사를 사용했다.
• 두 가지 에이전트 형태(AI/로봇 with/without physical body)와 두 가지 자율성 수준(완전 자율 vs 비자율)을 사용했다.
• 잘못된 인식을 바로잡기 위한 6–9장의 시각 카드를 활용한 4가지 중재 설계(normative, descriptive, non-human, human) 각각.
• MTurk(미국)에서 응답의 집중도와 시간 관리의 체크로 응답을 정제해 1270명의 유효 응답을 얻었다.
• 대표적인 미국 샘플(N=164)을 수집해 샘플 간 강건성을 테스트했다.
• 결과에는 11개 권리에 대한 사전 입장과 사후 입장, 입장 변화, 효과 크기 지표(Hedge’s g)를 포함했다.

실험 결과

연구 질문

• RQ1 미래의 AI와 로봇에 적용될 수 있는 11개의 권리에 대한 온라인 대중의 인식은 무엇인가?
• RQ2 일반적인 오해를 바로잡는 중재가 이러한 인식을 의미 있게 바꿀 수 있는가?
• RQ3 에이전트 유형, 자율성 수준, 문구 스타일이 입장 변화에 어떤 영향을 미치는가?
• RQ4 온라인(MTurk) 참가자의 인식이 인구통계학적으로 대표되는 샘플과 일치하는가?

주요 결과

• 온라인 참가자들은 AI/로봇에 대부분의 권리를 부여하는 것에 일반적으로 반대하는 편이며, 잔혹한 처벌 및 대우에 대한 권리 지지를 제외하고는 반대 경향이 우세했다.
• 비인간(intervention) 설계가 권리 전반에서 가장 큰 입장 변화(g = 0.440; μ_sc = 0.408)를 일으켰다.
• 비인간 설계 하에서 계약, 고소/피고 소송권, 자산 보유권에서 가장 큰 입장 변화가 관찰되었다(g = 0.442, μ_sc = 0.582; g = 0.439, μ_sc = 0.598; g = 0.421, μ_sc = 0.546 각각).
• 에이전트를 완전 자율하게 명시적으로 제시하면 입장 변화가 약간 증가했다(g = 0.134).
• 더 긴 중재 읽기 시간이 더 큰 입장 변화와 상관관계를 보였고, 초기 NARS 점수가 높을수록 변화가 더 컸다.
• 대표 미국 샘플(N=164) 재현에서 MTurk 온라인 샘플과 유사한 경향 패턴이 나타났다.