[论文解读] Simulating the Effects of Social Presence on Trust, Privacy Concerns & Usage Intentions in Automated Bots for Finance

Magdalene Ng, Kovila Coopamootoo+4 more|arXiv (Cornell University)|Jun 27, 2020

AI in Service Interactions参考文献 73被引用 15

一句话总结

本研究探讨了金融聊天机器人（FinBots）中的社会情感特征如何影响用户信任、隐私担忧及使用意愿。通过一项包含410名参与者的被试间在线实验发现，尽管拟人化机器人（Emma）提升了感知社会存在感，但并未提高信任度或降低隐私担忧——相反，与中性、技术型机器人（XRO23）相比，用户显著减少了对敏感财务数据的共享意愿，表明情感化设计可能在增强感知人性化的同时，反而阻碍了财务数据的披露。

ABSTRACT

FinBots are chatbots built on automated decision technology, aimed to facilitate accessible banking and to support customers in making financial decisions. Chatbots are increasing in prevalence, sometimes even equipped to mimic human social rules, expectations and norms, decreasing the necessity for human-to-human interaction. As banks and financial advisory platforms move towards creating bots that enhance the current state of consumer trust and adoption rates, we investigated the effects of chatbot vignettes with and without socio-emotional features on intention to use the chatbot for financial support purposes. We conducted a between-subject online experiment with N = 410 participants. Participants in the control group were provided with a vignette describing a secure and reliable chatbot called XRO23, whereas participants in the experimental group were presented with a vignette describing a secure and reliable chatbot that is more human-like and named Emma. We found that Vignette Emma did not increase participants' trust levels nor lowered their privacy concerns even though it increased perception of social presence. However, we found that intention to use the presented chatbot for financial support was positively influenced by perceived humanness and trust in the bot. Participants were also more willing to share financially-sensitive information such as account number, sort code and payments information to XRO23 compared to Emma - revealing a preference for a technical and mechanical FinBot in information sharing. Overall, this research contributes to our understanding of the intention to use chatbots with different features as financial technology, in particular that socio-emotional support may not be favoured when designed independently of financial function.

研究动机与目标

• 探讨金融聊天机器人中的社会情感特征对用户信任、隐私担忧及使用意愿的影响。
• 调查通过拟人化命名和情感线索增强社会存在感，是否能提升用户共享敏感财务信息的意愿。
• 探讨在自动化金融助手中，感知人性化与实际数据披露行为之间的张力。
• 为用户对金融科技聊天机器人的感知与行为意图提供实证证据，特别是在此类研究较为有限的英国语境下。

提出的方法

• 采用被试间在线实验，N = 410名参与者，基于情景描述的实验设计。
• 比较两种聊天机器人条件：名为XRO23的中性、技术型机器人（对照组）与名为Emma的拟人化机器人（实验组），两者均被描述为安全可靠。
• 使用标准化量表测量感知社会存在感、信任度、隐私担忧及用户使用聊天机器人的意愿。
• 通过Prolific Academic（一个高质量的在线众包平台）收集数据，并设置注意力检查以确保数据可靠性。
• 采用推论统计方法分析响应数据，比较两组在关键心理与行为结果上的差异。
• 重点关注个人与财务信息的差异化披露行为，评估用户对账户号码、排序码及支付信息的共享意愿。

实验结果

研究问题

• RQ1 金融聊天机器人中包含社会情感特征是否能提升用户对机器人的感知信任？
• RQ2 社会情感线索如何影响用户在与金融聊天机器人互动时的隐私担忧？
• RQ3 感知社会存在感在多大程度上影响用户使用FinBot获取财务支持的意愿？
• RQ4 与技术性、无角色设定的机器人相比，聊天机器人的拟人化形象是否显著提升用户披露敏感财务信息的意愿？
• RQ5 信任感与社会存在感在聊天机器人设计与用户使用意愿之间，是否起到中介作用？

主要发现

• 拟人化机器人（Emma）显著提升了参与者对社会存在感的感知，表明其与社交代理的互动感更强。
• 尽管社会存在感更高，Emma并未提升信任度或降低隐私担忧，与中性机器人XRO23相比无显著差异。
• 与XRO23相比，参与者显著减少向Emma披露敏感财务信息（如账户号码、排序码及支付详情）的意愿。
• 使用意愿受到对机器人拟人化程度和信任度的正向影响，表明这些因素独立驱动使用意愿。
• 参与者表示更愿意向Emma披露具有社会属性的个人信息（如全名、出生日期、住址），但该差异未达统计显著性。
• 本研究揭示了感知人性化与实际数据共享行为之间的脱节，表明情感化设计可能与金融场景下的功能需求不一致。