[论文解读] Interactive Agents: Simulating Counselor-Client Psychological Counseling via Role-Playing LLM-to-LLM Interactions

Huachuan Qiu, Zhenzhong Lan|arXiv (Cornell University)|Aug 28, 2024

Artificial Intelligence in Law被引用 4

一句话总结

本文提出了一种基于角色扮演的 LLM-to-LLM 框架，通过使用两个 GPT-4 模型模拟心理咨询师-来访者心理辅导过程：一个作为具有真实生活背景的来访者，另一个作为接受过整合治疗训练的资深心理咨询师。该方法生成的合成对话在隐私保护方面表现良好，且与人类互动高度相似，展现出优异的对话质量与心理咨询师行为相似性，为人类标注数据提供了一种可扩展的替代方案。

ABSTRACT

Virtual counselors powered by large language models (LLMs) aim to create interactive support systems that effectively assist clients struggling with mental health challenges. To replicate counselor-client conversations, researchers have built an online mental health platform that allows professional counselors to provide clients with text-based counseling services for about an hour per session. Notwithstanding its effectiveness, challenges exist as human annotation is time-consuming, cost-intensive, privacy-protected, and not scalable. To address this issue and investigate the applicability of LLMs in psychological counseling conversation simulation, we propose a framework that employs two LLMs via role-playing for simulating counselor-client interactions. Our framework involves two LLMs, one acting as a client equipped with a specific and real-life user profile and the other playing the role of an experienced counselor, generating professional responses using integrative therapy techniques. We implement both the counselor and the client by zero-shot prompting the GPT-4 model. In order to assess the effectiveness of LLMs in simulating counselor-client interactions and understand the disparities between LLM- and human-generated conversations, we evaluate the synthetic data from various perspectives. We begin by assessing the client's performance through automatic evaluations. Next, we analyze and compare the disparities between dialogues generated by the LLM and those generated by professional counselors. Furthermore, we conduct extensive experiments to thoroughly examine the performance of our LLM-based counselor trained with synthetic interactive dialogues by benchmarking against state-of-the-art models for mental health.

研究动机与目标

• 解决人类标注心理健康咨询数据在可扩展性、成本和隐私方面的局限性。
• 在不依赖真实人类参与者的前提下，模拟逼真且互动性强的心理咨询对话。
• 评估 LLM 生成对话的质量与治疗保真度，并与人类生成的会话进行对比。
• 将基于 LLM 的心理咨询师在合成数据上微调后的表现，与当前最先进的心理健康对话模型进行基准测试。
• 探讨在使用 LLM 模拟心理咨询过程中存在的伦理与实际挑战。

提出的方法

• 采用零样本角色扮演设置，使用两个 GPT-4 模型：一个作为具有预设真实生活用户档案的来访者，另一个作为接受过整合治疗技术训练的心理咨询师。
• 通过提示使来访者模型模拟特定心理健康问题，并融入个人化和情境化细节以增强真实感。
• 心理咨询师模型使用整合治疗方法生成回应，重点在于探索、洞察与行动计划。
• 通过模拟真实会话的迭代式、双向交互生成合成对话。
• 该框架支持通过多种指标自动评估对话质量，并与人类生成的会话进行对比。
• 未来拟采用检索增强生成（RAG）和提示优化技术，以进一步提升真实感与逼真度。

实验结果

研究问题

• RQ1 RQ1：LLM 如何通过角色扮演有效且自动地模拟心理咨询师-来访者互动？
• RQ2 RQ2：LLM 生成的对话在质量与治疗保真度方面，与专业人类心理咨询师生成的对话相比如何？
• RQ3 RQ3：在合成数据上微调的基于 LLM 的心理咨询师，与当前最先进的心理健康对话模型相比，表现如何？
• RQ4 RQ4：使用 LLM 模拟来访者与心理咨询师在心理辅导中的伦理风险与局限性是什么？
• RQ5 RQ5：来访者抵抗与会话进展如何影响 LLM 生成对话的质量与深度？

主要发现

• 基于 LLM 的心理咨询师生成的对话，在结构与治疗质量方面与专业人类心理咨询师生成的对话高度相似，这一结论通过自动评估指标得到验证。
• 合成对话展现出强连贯性、情感投入以及对整合治疗技术的恰当运用，表明其具有高度真实感。
• 在合成数据上微调的基于 LLM 的心理咨询师，在心理健康对话基准测试中，性能与当前最先进的模型相当。
• 该角色扮演框架成功模拟了具有明确来访者档案的完整咨询会话，展示了其可扩展性与隐私保护能力。
• 伦理方面的问题，如不当建议、来访者建模过于简化以及咨询深度有限，被识别为 LLM 模拟中的主要局限。
• 本研究证实，LLM 可以生成高质量、无隐私风险的心理咨询对话，为人类标注数据收集提供了一种切实可行的替代方案。