[论文解读] Social and Emotional Etiquette of Chatbots: A Qualitative Approach to Understanding User Needs and Expectations

Ekaterina Svikhnushina, Pearl Pu|arXiv (Cornell University)|Jun 24, 2020

AI in Service Interactions参考文献 57被引用 8

一句话总结

本项定性研究通过18次半结构化访谈，探究用户对情感智能聊天机器人的期望，发现用户更重视富有同理心、情境敏感的情感回应，而非单纯的 emotion detection。其主要贡献是一套以响应性同理心和社会礼仪为核心的设计准则与交互模式，旨在提升情感感知对话代理的用户信任度与参与度。

ABSTRACT

As chatbots are becoming increasingly popular, we often wonder what users perceive as natural and socially accepted manners of interacting with them. Some researchers maintain that humans should avoid engaging in emotional conversations with chatbots, while others have started building empathetic chatting machines using the latest deep learning techniques. To understand if chatbots should comprehend and display emotions, we conducted semi-structured interviews with 18 participants. Our analysis revealed their overall enthusiasm towards emotionally aware agents. More importantly, users' intention to accept emotional chatbots seem to hinge on how these agents respond to our specific emotions, rather than just the ability to detect human emotions. Our findings also disclosed the specific application domains where emotionally intelligent technology could improve user experience. To conclude, we summarized a set of emotion interaction patterns that inspire users' intention to adopt such technology as well as guidelines useful for the development of emotionally intelligent chatbots.

研究动机与目标

• 理解用户在聊天机器人情感与社交礼仪方面的需求与期望。
• 探究用户在何种条件下认为情感智能聊天机器人具有吸引力。
• 识别可提升用户接受度与信任感的具体情感交互模式。
• 基于用户驱动的洞察，制定情感感知聊天机器人的设计准则。
• 探索情感智能在聊天机器人中可显著提升用户体验的应用领域。

提出的方法

• 对多样化参与者开展18次半结构化访谈，以获取其对未来情感聊天机器人交互的前瞻性期望。
• 对400条定性回应笔记进行亲和性笔记分析，识别重复出现的主题与情感交互模式。
• 采用定性主题分析方法，提取用户关切、期望的情感行为及信任因素。
• 将用户期望映射至设计原则，重点关注同理心、响应性与社交礼仪。
• 基于用户报告的情感回应策略偏好与透明度需求，制定设计准则。
• 将研究发现整合进一个情感智能开放领域聊天机器人的设计框架，遵循以用户为中心的原则。

实验结果

研究问题

• RQ1 用户在社交与情感互动中，对聊天机器人期望何种情感行为？
• RQ2 用户如何看待同理心与情感响应在提升聊天机器人亲和力与信任度方面的作用？
• RQ3 用户认为哪些应用领域最适合作为情感智能聊天机器人的适用场景？
• RQ4 哪些情感回应模式可提升用户采用情感感知聊天机器人的意愿？
• RQ5 用户对情感智能聊天机器人存在哪些担忧，特别是关于隐私与操纵的问题？

主要发现

• 用户对情感感知聊天机器人表现出强烈热情，尤其当这些代理展现出响应性同理心而非仅检测情绪时。
• 影响用户接受度的首要因素并非情绪检测本身，而是聊天机器人对特定情绪状态（如悲伤或沮丧）的回应方式。
• 用户期望聊天机器人开展情感适当、情境敏感的对话，包括提供安慰、表达关心，并避免冷漠或不敏感的回应。
• 情感聊天机器人最具前景的应用领域包括心理健康支持、陪伴服务与情感状态检查，用户在这些场景中寻求情感认可与情感联结。
• 用户对隐私、数据滥用及隐藏动机表示显著担忧，强调需通过透明化与善意设计来建立信任。
• 识别出12种关键情感交互模式，显著提升用户接受度，包括积极倾听、情感确认与恰当幽默。