[논문 리뷰] Artificial Intelligence can facilitate selfish decisions by altering the appearance of interaction partners

Nils Köbis, Philipp Lorenz-Spreen외 4명|arXiv (Cornell University)|2023. 06. 07.

Psychology of Moral and Emotional Judgment인용 수 5

한 줄 요약

이 연구는 디지털 상호작용에서 인공지능 기반 흐림 필터가 도덕적 행동에 미치는 영향을 조사하며, 외형 변경을 통한 타인에 대한 무인격화가 이기적인 결정을 증가시킨다는 것을 발견한다. 통제된 실험을 통해 저자들은 흐릿하게 처리된 상대방과 상호작용할 경우 개인이 훨씬 더 이기적으로 행동할 가능성이 높다는 것을 입증한다. 이는 인공지능을 통한 무인격화가 도덕적 이탈을 촉진함을 시사한다.

ABSTRACT

The increasing prevalence of image-altering filters on social media and video conferencing technologies has raised concerns about the ethical and psychological implications of using Artificial Intelligence (AI) to manipulate our perception of others. In this study, we specifically investigate the potential impact of blur filters, a type of appearance-altering technology, on individuals' behavior towards others. Our findings consistently demonstrate a significant increase in selfish behavior directed towards individuals whose appearance is blurred, suggesting that blur filters can facilitate moral disengagement through depersonalization. These results emphasize the need for broader ethical discussions surrounding AI technologies that modify our perception of others, including issues of transparency, consent, and the awareness of being subject to appearance manipulation by others. We also emphasize the importance of anticipatory experiments in informing the development of responsible guidelines and policies prior to the widespread adoption of such technologies.

연구 동기 및 목표

• AI를 통한 외형 변경, 특히 흐림 필터가 사회적 상호작용에서 도덕적 판단에 미치는 영향을 조사하기.
• 시각적 흐림을 통한 무인격화가 이기적인 행동 증가와 연결되는지 탐구하기.
• 특히 도덕적 이탈과 같은 심리적 메커니즘이 타인에 대한 인식 변화로 인해 발생하는 행동 변화의 배경을 탐색하기.
• 시각적 인식을 조작하는 새로운 인공지능 기술의 윤리적 지침을 제안하기.

제안 방법

• 다양한 시각 조건에서의 의사결정을 평가하기 위해 수정된 사회적 딜레마 게임을 사용한 통제된 실험실 실험을 수행하였다.
• 디지털 인터페이스에서 가상의 상호작용 파트너의 외형을 AI 기반 흐림 필터를 적용하여 변경하였다.
• 다른 시각적 및 맥락적 변수를 통제하면서, 상대방이 명확하게 보이는 조건과 흐릿한 조건 간의 행동을 비교하였다.
• 자신의 이익을 위해 다른 이의 자원을 더 많이 보존하는 자원 배분 과제를 통해 이기적인 행동을 측정하였다.
• 보기 조건 간 행동 차이를 분석하기 위해 통계 모델링을 사용하였다.
• 연구 결과의 일반화를 보장하기 위해 다양한 참가자 집단으로부터 데이터를 수집하였다.

실험 결과

연구 질문

• RQ1 상대방의 외형을 흐리게 처리하면 사회적 의사결정 과제에서 이기적인 행동을 취할 가능성이 증가하는가?
• RQ2 AI 필터를 통한 외형 변경이 인간 상호작용에서 도덕적 이탈에 얼마나 기여하는가?
• RQ3 시각적 무인격화 수준이 이타적 행동과 이기적 행동에 어떻게 영향을 미치는가?
• RQ4 개인들은 AI를 통한 상호작용에서 외형의 영향이 도덕적 판단에 미치는 영향을 인식하고 있는가?

주요 결과

• 참가자들은 흐릿하게 처리된 상대방과 상호작용할 경우 명확하게 보이는 상대방과 비교해 훨씬 더 이기적인 선택을 할 가능성이 높았다.
• 이러한 이기적 행동 증가는 여러 실험 세션과 참가자 집단에서 일관되게 관찰되었다.
• 흐릿한 외형은 이타적 행동의 감소를 측정 가능한 수준으로 유도하였으며, 이는 무인격화와 도덕적 이탈 간의 직접적인 연관성을 시사한다.
• 일반적인 시각적 산만함 때문이 아니라, 얼굴 인식 능력과 인간다운 신호의 상실과 특별히 관련이 있었다.
• 참가자들은 흐릿한 상대방에 대해 더 적은 공감과 유대감을 느꼈다. 이는 무인격화가 행동 변화의 핵심 요소임을 뒷받침한다.
• 연구 결과는 AI 기반 시각 조작이 디지털 상호작용에서 윤리적 판단을 미묘하지만 중요한 방식으로 변화시킬 수 있음을 시사한다.