[论文解读] The Typing Cure: Experiences with Large Language Model Chatbots for Mental Health Support

Inhwa Song, Sachin R. Pendse+2 more|arXiv (Cornell University)|Jan 25, 2024

Mental Health via Writing被引用 12

一句话总结

本研究分析了21名来自多样背景的个体如何使用大型语言模型聊天机器人进行心理健康支持，介绍治疗对齐并为心理健康护理中道德一致的 AI 工具提供设计建议。

ABSTRACT

People experiencing severe distress increasingly use Large Language Model (LLM) chatbots as mental health support tools. Discussions on social media have described how engagements were lifesaving for some, but evidence suggests that general-purpose LLM chatbots also have notable risks that could endanger the welfare of users if not designed responsibly. In this study, we investigate the lived experiences of people who have used LLM chatbots for mental health support. We build on interviews with 21 individuals from globally diverse backgrounds to analyze how users create unique support roles for their chatbots, fill in gaps in everyday care, and navigate associated cultural limitations when seeking support from chatbots. We ground our analysis in psychotherapy literature around effective support, and introduce the concept of therapeutic alignment, or aligning AI with therapeutic values for mental health contexts. Our study offers recommendations for how designers can approach the ethical and effective use of LLM chatbots and other AI mental health support tools in mental health care.

研究动机与目标

• 了解来自多元背景的个体如何使用 LLM 聊天机器人进行心理健康支持。
• 识别 LLM 聊天机器人作为陪伴与治疗工具的角色和局限。
• 把研究发现建立在心理治疗理论之上，以在心理健康情境中为 AI 定义治疗对齐。
• 提出将 AI 心理健康工具与治疗价值观对齐的设计建议。

提出的方法

• 对来自全球多样化背景、使用 LLM 聊天机器人进行心理健康支持的21名参与者进行半结构化访谈。
• 在在线社区中使用目的性抽样和雪球抽样来招募参与者。
• 应用归纳性定性分析，采用开放编码和主题分析来识别主题。
• 将分析建立在心理治疗文献的基础上，将聊天机器人使用与有效支持因素（如治疗联盟和文化背景）进行比较。
• 引入治疗对齐的概念，以评估 AI 工具如何体现治疗价值观。
• 提供伦理考虑并警示不要将聊天机器人视为医疗指导。

实验结果

研究问题

• RQ1 当寻求心理健康支持时，个体如何理解并使用 LLM 聊天机器人？
• RQ2 LLM 聊天机器人在哪些方面弥补护理空缺，它们的支持在文化上有哪些界限？
• RQ3 AI 聊天机器人与既定心理治疗价值观之间的治疗对齐由何构成？
• RQ4 为确保 LLM 聊天机器人在心理健康护理中的伦理性和有效性而提出的设计建议有哪些？

主要发现

• LLM 聊天机器人弥补了独特的支持空缺，因技术的文化局限性而作为其他护理的补充使用。
• 参与者将聊天机器人用于包括发泄、情感支持、日常对话和任务帮助在内的多种角色，而不仅仅是危机指导。
• 一些用户把聊天机器人作为代理治疗师或心理健康信息来源，受到以往经历和移情动力的影响。
• 参与者常将聊天机器人视为可访问、无评判的空间，能够即时回应，这本身就具有治疗效果。
• 治疗对齐被提出作为一个框架，将 AI 行为与跨文化的治疗价值观（如同理心、一致性和意义创造）对齐。