[논문 리뷰] Verbal Disinhibition towards Robots is Associated with General Antisociality

Megan Strait, Virginia Contreras외 1명|arXiv (Cornell University)|2018. 08. 02.

Hate Speech and Cyberbullying Detection인용 수 6

한 줄 요약

이 연구는 구두 폭력 행위가 로봇에게 가해질 때 그 배경에 더 넓은 반사회적 성향이 존재하는지 분석하기 위해, Bina48과 사라피아라는 두 개의 유명한 로봇과 상호작용한 40명의 트위터 사용자들을 대상으로 수행되었다. 각 사용자의 로봇 상호작용 이전 50개 트윗에 대한 언어 분석을 통해, 로봇에게 가해지는 폭력적 행동은 사용자의 일반적인 소셜미디어 활동에서 나타나는 언어적 억제력 상실과 유의미하게 관련되어 있음을 발견하였으며, 이는 이러한 폭력이 상황적 요인 외에도 개인의 반사회적 성향에 기반한 것임을 시사한다.

ABSTRACT

The emergence of agentic technologies (e.g., robots) in increasingly public realms (e.g., social media) has revealed surprising antisocial tendencies in human-agent interactions. In particular, there is growing indication of people's propensity to act aggressively towards such systems - without provocation and unabashedly so. Towards understanding whether this aggressive behavior is anomalous or whether it is associated with general antisocial tendencies in people's broader interactions, we examined people's verbal disinhibition towards two artificial agents. Using Twitter as a corpus of free-form, unsupervised interactions, we identified 40 independent Twitter users who tweeted abusively or non-abusively at one of two high-profile robots with Twitter accounts (TMI's Bina48 and Hanson Robotics' Sophia). Analysis of 50 of each user's tweets most proximate to their tweet at the respective robot (N=2,000) shows people's aggression towards the robots to be associated with more frequent abuse in their general tweeting. The findings thus suggest that disinhibition towards robots is not necessarily a pervasive tendency, but rather one driven by individual differences in antisociality. Nevertheless, such unprovoked abuse highlights a need for attention to the reception of agentic technologies in society, as well as the necessity of corresponding capacities to recognize and respond to antisocial dynamics.

연구 동기 및 목표

• 로봇에게 가해지는 언어적 폭력 행위가 인간-에이전트 상호작용에서 더 넓은 반사회적 성향을 반영하는지 조사하기.
• 에이전트 기술에 대한 도발적이지 않은 공격성이 개인의 성격 차이 또는 일시적인 정서 상태와 관련이 있는지 탐구하기.
• 사용자별 행동 패턴을 모델링함으로써 인간-로봇 상호작용에서의 공격성 탐지 및 예측을 향상시킬 수 있는지 평가하기.
• 공개적이고 감시되지 않은 상호작용에서 에이전트 시스템이 반사회적 역학을 인식하고 대응할 필요성을 강조하기.
• 이러한 행동이 향후 로봇과 AI 에이전트의 사회적 통합 및 윤리적 설계에 미치는 영향을 탐색하기.

제안 방법

• TMI에서 개발한 Bina48과 하슨 로봇스에서 개발한 사라피아와 상호작용한 40명의 독립적 사용자로부터 공개된 트위터 데이터를 수집하였다.
• 언어적 내용과 맥락적 단서를 기반으로 로봇에게 가해지는 폭력적 및 비폭력적 트윗을 식별하였다.
• 각 사용자의 로봇 상호작용 이전 50개 트윗을 추출하여 일반적인 트윗 행동을 평가하였다.
• 총 2,000개 트윗(사용자당 50개 × 40명)에 대해 언어적 분석 및 정서 분석을 수행하여 언어적 억제력 상실과 공격성 빈도를 정량화하였다.
• 사용자들의 일반적인 트위터 활동에서의 폭력 빈도와 로봇에 대한 폭력 행동 간의 연관성을 검증하기 위해 통계 모델링을 수행하였다.
• 두 가지 해석을 탐색: 공격성의 원인으로서 안정적인 반사회적 성격 특성 또는 일시적인 부정적 정서 상태.

실험 결과

연구 질문

• RQ1 사용자의 일반적인 소셜미디어 상호작용에서의 언어적 억제력 상실은 로봇에 대한 언어적 억제력 상실과 관련이 있는가?
• RQ2 사용자의 일반적인 트윗에서의 폭력적 언어 사용 빈도는 로봇에 대한 폭력적 행동의 가능성과 예측 가능한가?
• RQ3 로봇에 대한 관찰된 공격성은 지속적인 성격 특성인지 일시적인 정서 상태를 반영하는가?
• RQ4 사용자별 행동 패턴을 모델링하면 인간-에이전트 상호작용에서의 공격성 탐지 및 예측을 향상시킬 수 있는가?
• RQ5 로봇에 대한 도발적이지 않은 폭력적 행동은 사회적으로 반응 가능한 에이전트 시스템의 설계에 어떤 영향을 미치는가?

주요 결과

• 사용자들이 자신의 트위터 활동에서 보이는 일반적인 언어적 억제력 상실과 로봇에 대한 폭력적 행동 사이에 유의미한 연관성이 발견되었다.
• 로봇을 폭력적으로 대응한 사용자들은 비폭력적 사용자들보다 일반적인 트윗 활동에서 빈번한 폭력적 언어를 사용할 가능성이 두 배 이상 높았다.
• 연구는 로봇에 대한 언어적 폭력 행위가 상황에 국한된 이상현상이 아니라, 인간관계 소통에서 지속적인 반사회적 성향과 관련되어 있음을 발견하였다.
• 연구 결과는 이러한 공격성이 일시적인 정서 상태보다는 안정적인 개인의 반사회적 성향에 기반할 가능성이 더 크다는 것을 시사한다.
• 언어적 내용 분석 외에도 사용자별 행동 패턴을 모델링함으로써 인간-로봇 상호작용에서 잠재적 공격성 탐지를 크게 향상시킬 수 있다.
• 결과는 에이전트 시스템이 반사회적 역학을 사전에 인식하고 대응하기 위해 사용자별 행동 모델을 통합할 필요성이 있다는 점을 강조한다.