[论文解读] Understanding the Benefits and Challenges of Using Large Language Model-based Conversational Agents for Mental Well-being Support
该论文对来自120篇帖子和2917条评论的基于LLM的心理健康代理（Replika）的用户体验进行定性分析，突出对心理健康支持的益处与挑战。
Conversational agents powered by large language models (LLM) have increasingly been utilized in the realm of mental well-being support. However, the implications and outcomes associated with their usage in such a critical field remain somewhat ambiguous and unexplored. We conducted a qualitative analysis of 120 posts, encompassing 2917 user comments, drawn from the most popular subreddit focused on mental health support applications powered by large language models (u/Replika). This exploration aimed to shed light on the advantages and potential pitfalls associated with the integration of these sophisticated models in conversational agents intended for mental health support. We found the app (Replika) beneficial in offering on-demand, non-judgmental support, boosting user confidence, and aiding self-discovery. Yet, it faced challenges in filtering harmful content, sustaining consistent communication, remembering new information, and mitigating users' overdependence. The stigma attached further risked isolating users socially. We strongly assert that future researchers and designers must thoroughly evaluate the appropriateness of employing LLMs for mental well-being support, ensuring their responsible and effective application.
研究动机与目标
- 评估基于LLM的对话代理在心理健康支持中的优势。
- 识别在心理健康情境中使用它们所带来的挑战和风险。
- 为研究人员和设计师在这些代理的负责任部署方面提供指导。
提出的方法
- 对一个专注于LLM驱动代理（u/Replika）的流行心理健康支持子版块的120篇帖子和2917条用户评论进行定性分析。
- 主题编码以识别代理在心理健康支持中被感知的益处和挑战。
- 对研究结果进行综合，以为负责任使用的设计考量提供依据。
实验结果
研究问题
- RQ1用户在使用基于LLM的对话代理进行心理健康支持时报告了哪些益处？
- RQ2用户在使用这些代理时遇到哪些挑战或风险（例如内容过滤、一致性、记忆、过度依赖）？
- RQ3社会因素如污名化如何影响此类代理在心理健康支持中的使用？
主要发现
- 这些代理提供按需、非评判性的支持，能够提升用户信心。
- 它们促进自我发现与个人反思。
- 挑战包括对有害内容的过滤、保持一致的沟通、记住新信息，以及缓解过度依赖。
- 由于使用这些代理而产生的污名化存在社交疏离的风险。
- 研究强调评估LLMs在心理健康支持中的适用性及负责任使用。
更好的研究，从现在开始
从论文设计到论文写作，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。