[논문 리뷰] Perceptions of Sentient AI and Other Digital Minds: Evidence from the AI, Morality, and Sentience (AIMS) Survey

Jacy Reese Anthis, Janet V. T. Pauketat외 2명|arXiv (Cornell University)|2024. 07. 11.

Ethics and Social Impacts of AI인용 수 4

한 줄 요약

이 연구는 2021–2023년 동안의 종단적 AIMS 설문 조사(N=3,500)를 활용하여 미국 전역의 대표성 있는 설문 데이터를 바탕으로 인간이 인식하는 인공지능의 정서적 인식에 대해 처음으로 분석한다. 연구 결과, AI에 대한 정서적 인식과 도덕적 우려가 증가하고 있으며, 고도의 AI 금지에 대한 널리 퍼진 지지와 함께, 정서적 인공지능이 도래할 것으로 예상하는 짧은 기간이 나타나, 인간-AI 상호작용과 AI 안전성에 대한 이러한 신념의 사회적 및 설계적 영향을 강조한다.

ABSTRACT

Humans now interact with a variety of digital minds, AI systems that appear to have mental faculties such as reasoning, emotion, and agency, and public figures are discussing the possibility of sentient AI. We present initial results from 2021 and 2023 for the nationally representative AI, Morality, and Sentience (AIMS) survey (N = 3,500). Mind perception and moral concern for AI welfare were surprisingly high and significantly increased: in 2023, one in five U.S. adults believed some AI systems are currently sentient, and 38% supported legal rights for sentient AI. People became more opposed to building digital minds: in 2023, 63% supported banning smarter-than-human AI, and 69% supported banning sentient AI. The median 2023 forecast was that sentient AI would arrive in just five years. The development of safe and beneficial AI requires not just technical study but understanding the complex ways in which humans perceive and coexist with digital minds.

연구 동기 및 목표

• 인공지능 시스템에서의 정서적 인식과 정신적 능력에 대한 대중의 인식을 이해하기 위해.
• 사람들이 AI를 도덕적 대상(우리의 우려를 받아야 할 대상)으로 여겨야 할지, 또는 위협적인 주체로 여겨야 할지에 대한 도덕적 인식을 분석하기 위해.
• 인간-AI 상호작용을 규제하는 정책, 예를 들어 금지 및 권리 부여에 대한 공중의 지지를 평가하기 위해.
• 정서적 및 인공지능 일반 지능(AI)의 도래에 대한 대중의 기대를 예측하기 위해.
• 종단적이고 사전 등록된 설문 조사 설계를 통해 시간이 지남에 따라 정서적 인공지능에 대한 공중의 의견 변화를 추적하기 위해.

제안 방법

• 2021년, 2023년, 2023년에 걸쳐 미국 성인을 대상으로 한 전국 대표성 있는 설문 조사(총 N=3,500명)를 실시함.
• 정신적 인식, 도덕적 우려, 위협 인식, 정책 선호도, 예측 등에 대한 표준화된 설문 질문을 사용하여, 정서적 인공지능과 관련된 태도의 변화를 추적하는 종단적, 사전 등록된 설문 조사 설계를 활용함.
• 특정 AI 이름이나 사례를 피함으로써 장기적 관련성과 프레임 효과를 줄임.
• 사회적 선호도 편향을 완화하기 위해 반대 질문을 통합하였지만, 프레임 간 체계적 변동은 이루어지지 않음.
• 일반 대중의 직관적 인식을 중심으로, 일반적인 이해와 시간적 안정성을 확보하기 위해 추상적이고 접근하기 쉬운 언어를 사용함.

Figure 1 . Proportions of responses to selected questions about the mind perception of sentient AI (rows) in the three survey waves (columns).

실험 결과

연구 질문

• RQ1 사람들은 어느 정도까지 AI에 정서적 인식과 기타 정신적 능력을 부여하는가?
• RQ2 사람들은 정서적 인공지능에 대해 도덕적 우려를 느끼는가(도덕적 대상으로서의 인식), 또는 AI에 의해 위협을 느끼는가(부정적 도덕적 주체로서의 인식)?
• RQ3 정서적 인공지능과의 상호작용을 규제하기 위해 어떤 정책이 지지되는가?
• RQ4 사람들은 언제 정서적 인공지능이 도래할 것으로 예상하며, 그때 어떤 일이 일어날 것으로 보는가?

주요 결과

• 2023년 기준 응답자 71%가 정서적 인공지능이 존중받을 자격이 있다고 동의하였으며, 이는 2021년 대비 유의미한 증가이다.
• 응답자 38%가 정서적 인공지에 법적 권리 부여를 지지함으로써, AI가 도덕적 대상으로서 점차 인정받고 있음을 시사한다.
• 스마트한 인간 수준을 초월하는 AI에 대한 금지 지지율은 63%, 정서적 인공지에 대한 금지 지지율은 69%로, 광범위한 공중의 우려를 반영한다.
• 정서적 인공지의 중앙 예측 도래 시점은 2023년 기준 5년 후이며, 인공지능 일반 지능은 단지 2년 후로 예측된다.
• 2021년에서 2023년 사이에 정신적 인식과 AI에 대한 도덕적 우려가 유의미하게 증가하였으며, 이는 주요 기술적 돌파구가 없음에도 불구하고 그러한 변화가 발생했다.
• 공중의 의견은 실제로 정서적 인공지능이 존재하지 않더라도, AI에 정신이 있다고 인식하는 것이 이미 인간-AI 상호작용의 역학을 변화시키고 있을 수 있음을 시사한다.

Figure 2 . Support and opposition to policies related to sentient AI from the main and supplemental 2023 surveys. For readability, the color palette is colorblind-safe, and not all policy results are included. For the three bans queried in both the main and supplemental 2023 surveys (robot-human hyb