[논문 리뷰] Social and Emotional Etiquette of Chatbots: A Qualitative Approach to Understanding User Needs and Expectations

Ekaterina Svikhnushina, Pearl Pu|arXiv (Cornell University)|2020. 06. 24.

AI in Service Interactions참고 문헌 57인용 수 8

한 줄 요약

이 질적 연구는 18명의 반구조화된 인터뷰를 통해 사용자가 정서지능을 갖춘 챗봇을 어떻게 기대하는지 조사하며, 단순한 정서 탐지보다는 공감적이고 맥락에 민감한 정서적 반응을 더 중시하는 사용자의 기대를 드러낸다. 주요 기여는 사용자 신뢰와 참여를 향상시키기 위해 반응적 공감과 사회적 예절을 우선시하는 설계 가이드라인과 상호작용 패턴을 제시하는 것이다.

ABSTRACT

As chatbots are becoming increasingly popular, we often wonder what users perceive as natural and socially accepted manners of interacting with them. Some researchers maintain that humans should avoid engaging in emotional conversations with chatbots, while others have started building empathetic chatting machines using the latest deep learning techniques. To understand if chatbots should comprehend and display emotions, we conducted semi-structured interviews with 18 participants. Our analysis revealed their overall enthusiasm towards emotionally aware agents. More importantly, users' intention to accept emotional chatbots seem to hinge on how these agents respond to our specific emotions, rather than just the ability to detect human emotions. Our findings also disclosed the specific application domains where emotionally intelligent technology could improve user experience. To conclude, we summarized a set of emotion interaction patterns that inspire users' intention to adopt such technology as well as guidelines useful for the development of emotionally intelligent chatbots.

연구 동기 및 목표

• 사용자가 챗봇의 정서적 및 사회적 예절에 대해 기대하는 바와 필요를 이해하기 위해.
• 사용자가 정서지능을 갖춘 챗봇을 얼마나 바라보고 있으며, 어떤 조건에서 바란다고 느끼는지 조사하기 위해.
• 사용자 수용성과 신뢰를 높이는 특정 정서 상호작용 패턴을 특정하기 위해.
• 사용자 중심의 통찰을 기반으로 정서지능을 갖춘 챗봇을 위한 설계 가이드라인을 수립하기 위해.
• 정서지능이 사용자 경험을 크게 향상시킬 수 있는 적용 분야를 탐색하기 위해.

제안 방법

• 다양한 참가자 18명을 대상으로 정서적 챗봇 상호작용에 대한 미래 지향적 기대를 유도하기 위해 반구조화된 인터뷰를 실시하였다.
• 400개의 질적 응답 노트에 대한 유사성 노트 분석을 통해 반복되는 주제와 정서 상호작용 패턴을 식별하였다.
• 질적 주제 분석을 통해 사용자의 우려 사항, 바라는 정서적 행동 및 신뢰 요인을 추출하였다.
• 사용자 기대를 설계 원칙과 연결하여 공감, 반응성, 사회적 예절에 중점을 두었다.
• 사용자가 보고한 정서 반응 전략과 투명성에 대한 선호도를 바탕으로 가이드라인을 제안하였다.
• 사용자 중심 원칙에 기반하여 정서지능을 갖춘 개방형 도메인 챗봇 설계를 위한 프레임워크에 통합하였다.

실험 결과

연구 질문

• RQ1 사용자는 사회적 정서 상호작용에서 챗봇으로부터 어떤 정서적 행동을 기대하는가?
• RQ2 사용자는 공감과 정서적 반응성이 챗봇의 매력도와 신뢰도를 높이는 데 어떻게 기여한다고 보는가?
• RQ3 사용자가 정서지능을 갖춘 챗봇에 가장 적합하다고 생각하는 응용 분야는 무엇인가?
• RQ4 어떤 정서 반응 패턴이 사용자에게 정서지능을 갖춘 챗봇을 채택하고자 하는 의지를 높이는가?
• RQ5 사용자는 정서지능을 갖춘 챗봇에 대해 특히 개인정보 유출과 조작에 대한 우려를 어떻게 표현하는가?

주요 결과

• 사용자는 정서지능을 갖춘 챗봇에 대해 강한 열정을 보이며, 단순한 정서 탐지보다는 반응적 공감을 보이는 경우에 특히 긍정적인 반응을 보인다.
• 사용자 수용에 영향을 주는 주요 요소는 정서 탐지 자체가 아니라, 슬픔이나 분노와 같은 특정 정서 상태에 대해 챗봇이 어떻게 반응하는지에 있다.
• 사용자는 정서적으로 적절하고 맥락에 민감한 대화, 즉 위로 제공, 관심 표시, 무심한 반응 방지 등을 기대한다.
• 정서지능 챗봇의 가장 유망한 응용 분야는 정서적 지지, 동반자 역할, 정서 점검으로, 사용자가 정서적 확인과 유대감을 찾는 데서 비롯된다.
• 사용자는 개인정보 유출, 데이터 오용, 숨겨진 목적에 대해 크게 우려하며, 신뢰를 구축하기 위해 투명성과 선량한 설계가 필요하다고 강조한다.
• 사용자 수용에 핵심적인 12가지 정서 상호작용 패턴이 특정되었으며, 이에는 수동적 경청, 정서적 확인, 적절한 유머가 포함된다.