[논문 리뷰] Simulating the Effects of Social Presence on Trust, Privacy Concerns & Usage Intentions in Automated Bots for Finance

Magdalene Ng, Kovila Coopamootoo외 4명|arXiv (Cornell University)|2020. 06. 27.

AI in Service Interactions참고 문헌 73인용 수 15

한 줄 요약

이 연구는 금융 챗봇(FinBots)의 사회정서적 특성이 신뢰, 개인정보 우려 및 사용 의도에 미치는 영향을 조사한다. 410명의 참가자 대상 이면 설계의 온라인 실험을 통해, 인간처럼 생긴 챗봇(에마)은 사회적 존재감을 높였지만, 신뢰도 증가나 개인정보 우려 감소에는 이르지 못했다. 오히려 민감한 금융 정보를 공유할 의향이 중립적이고 기술적인 챗봇(XRO23)보다 유의미하게 낮아, 정서적 디자인이 인지된 인간다움을 높이더라도 금융 정보 공개를 저해할 수 있음을 시사한다.

ABSTRACT

FinBots are chatbots built on automated decision technology, aimed to facilitate accessible banking and to support customers in making financial decisions. Chatbots are increasing in prevalence, sometimes even equipped to mimic human social rules, expectations and norms, decreasing the necessity for human-to-human interaction. As banks and financial advisory platforms move towards creating bots that enhance the current state of consumer trust and adoption rates, we investigated the effects of chatbot vignettes with and without socio-emotional features on intention to use the chatbot for financial support purposes. We conducted a between-subject online experiment with N = 410 participants. Participants in the control group were provided with a vignette describing a secure and reliable chatbot called XRO23, whereas participants in the experimental group were presented with a vignette describing a secure and reliable chatbot that is more human-like and named Emma. We found that Vignette Emma did not increase participants' trust levels nor lowered their privacy concerns even though it increased perception of social presence. However, we found that intention to use the presented chatbot for financial support was positively influenced by perceived humanness and trust in the bot. Participants were also more willing to share financially-sensitive information such as account number, sort code and payments information to XRO23 compared to Emma - revealing a preference for a technical and mechanical FinBot in information sharing. Overall, this research contributes to our understanding of the intention to use chatbots with different features as financial technology, in particular that socio-emotional support may not be favoured when designed independently of financial function.

연구 동기 및 목표

• 금융 챗봇의 사회정서적 특성이 사용자 신뢰, 개인정보 우려 및 사용 의도에 미치는 영향을 조사하기 위해.
• 인간처럼 생긴 이름과 정서적 신호를 통해 사회적 존재감을 높일 경우, 사용자가 민감한 금융 정보를 공유할 의향이 증가하는지 조사하기 위해.
• 자동화된 금융 보조자에서 인지된 인간다움과 실제 정보 공개 행동 사이의 갈등을 탐색하기 위해.
• 특히 영국에서 이와 같은 연구가 제한되어 있는 상황에서, FinTech 챗봇의 사용자 인식과 행동 의도에 대한 실증적 증거를 기여하기 위해.

제안 방법

• N = 410명의 참가자 대상 이면 설계의 온라인 실험을 실시하였으며, 시나리오 기반의 비디오 자료를 활용하였다.
• 두 가지 챗봇 조건을 비교: 제어 조건으로 중립적이고 기술적인 챗봇 XRO23, 실험 조건으로 인간처럼 생긴 챗봇 에마. 둘 다 안전하고 신뢰할 수 있다고 기술되었다.
• 인지된 사회적 존재감, 신뢰, 개인정보 우려 및 금융 지원을 위한 챗봇 사용 의도를 측정하기 위해 표준화된 척도를 사용하였다.
• Prolific Academic이라는 고품질의 온라인 커뮤니티를 통해 데이터를 수집하였으며, 주의력 검사를 통한 데이터 신뢰성 확보 조치를 취하였다.
• 핵심 심리적 및 행동적 결과에서의 그룹 간 차이를 비교하기 위해 추론 통계 분석을 수행하였다.
• 개인 정보와 금융 정보 간의 차별적 공개 행동을 중점적으로 분석하였으며, 계좌 번호, 은행 식별 코드, 결제 정보 공유 의향을 평가하였다.

실험 결과

연구 질문

• RQ1 금융 챗봇에 사회정서적 특성을 포함할 경우, 사용자의 챗봇에 대한 인지된 신뢰도가 증가하는가?
• RQ2 사회정서적 신호는 금융 챗봇과 상호작용할 때 사용자의 개인정보 우려에 어떤 영향을 미치는가?
• RQ3 인지된 사회적 존재감이 사용자의 금융 지원을 위한 FinBots 사용 의도에 어느 정도 영향을 미치는가?
• RQ4 채팅봇의 인간처럼 생긴 성격이 기술적이고 비개인화된 챗봇보다 민감한 금융 정보 공개 의향을 더 높이는가?
• RQ5 신뢰 및 사회적 존재감의 인식이 챗봇 설계와 사용자 사용 의도 간의 관계를 어떻게 매개하는가?

주요 결과

• 인간처럼 생긴 챗봇(에마)은 참가자들이 사회적 존재감을 더 크게 느끼게 하여 사회적 에이전트와의 상호작용을 더 강하게 느끼게 했다.
• 높은 사회적 존재감에도 불구하고, 에마는 중립적 챗봇 XRO23에 비해 신뢰 수준을 높이거나 개인정보 우려를 감소시키지 못했다.
• 참가자들은 에마에게 계좌 번호, 은행 식별 코드, 결제 정보와 같은 민감한 금융 정보를 XRO23보다 유의미하게 덜 공유하고자 했다.
• 채팅봇 사용 의도는 인지된 인간다움과 챗봇에 대한 신뢰도에 긍정적으로 영향을 받았으며, 이는 이러한 요소들이 사용 의도에 독립적으로 기여함을 시사한다.
• 참가자들은 에마에게 사회적 성격이 부여된 개인 정보(예: 이름, 생년월일, 주소)를 더 편안하게 공유한다고 보고했지만, 이는 통계적으로 유의미하지 않았다.
• 본 연구는 인지된 인간다움과 실제 정보 공개 행동 사이의 괴리를 드러내며, 정서적 디자인이 금융 환경에서는 功能적 요구와 일치하지 않을 수 있음을 시사한다.