[论文解读] ChatGPT as a Therapist Assistant: A Suitability Study

Mahshid Eshghie, Mojtaba Eshghie|arXiv (Cornell University)|Apr 19, 2023

Digital Mental Health Interventions被引用 4

一句话总结

本研究探讨了使用ChatGPT作为治疗师助手，在治疗会话之间支持患者的可能性，利用其在共情对话、互动总结以及为治疗师提供洞察方面的优势。结果显示，它能够提供情感认可，避免给出明确的医疗建议，并从重复对话中提取出有用的模式，尽管偶尔会遗漏关键细节或存在隐含临床指导的风险。

ABSTRACT

This paper proposes using ChatGPT, an innovative technology with various applications, as an assistant for psychotherapy. ChatGPT can serve as a patient information collector, a companion for patients in between therapy sessions, and an organizer of gathered information for therapists to facilitate treatment processes. The research identifies five research questions and discovers useful prompts for fine-tuning the assistant, which shows that ChatGPT can participate in positive conversations, listen attentively, offer validation and potential coping strategies without providing explicit medical advice, and help therapists discover new insights from multiple conversations with the same patient. Using ChatGPT as an assistant for psychotherapy poses several challenges that need to be addressed, including technical as well as human-centric challenges which are discussed.

研究动机与目标

• 评估ChatGPT作为会话间心理健康治疗非临床助手的适用性。
• 评估其在不提供明确治疗建议的情况下，提供共情性、非医疗情感支持的能力。
• 评估其在为治疗师审查和生成洞察而总结患者对话方面的有效性。
• 识别优化ChatGPT在治疗支持中行为的提示，同时最小化风险。
• 探讨在AI辅助心理健康应用中信任、准确性和相关性方面的挑战。

提出的方法

• 本研究设计并测试了一个经过微调的ChatGPT版本，使用自定义提示来引导其作为治疗助手的角色。
• 与模拟患者进行了四组不同的对话，以评估其在情感支持、倾听和总结任务中的表现。
• 通过迭代优化提示，以增强主动倾听、情感认可以及避免提供医疗建议的能力。
• 评估ChatGPT从重复患者互动中提取关键主题和情感内容以供治疗师报告的能力。
• 测试系统在引导对话保持在情感支持范围而不偏离至临床建议方面的一致性。
• 通过定性与观察性分析评估输出质量、相关性以及隐含医疗建议的风险。

实验结果

研究问题

• RQ1 RQ1：ChatGPT在避免提供明确医疗或治疗建议方面有多可信？
• RQ2 RQ2：ChatGPT能否在对话中展现主动倾听并提供积极的情感认可？
• RQ3 RQ3：ChatGPT在为治疗师会话前审查而总结患者对话方面有多准确？
• RQ4 RQ4：ChatGPT在不偏离至医疗建议的前提下，维持情感支持焦点的程度如何？
• RQ5 RQ5：ChatGPT是否会在治疗对话中引入不相关的话题？

主要发现

• ChatGPT成功开展了积极且富有共情的对话，通过认可患者的努力和情绪展现了主动倾听。
• 该模型始终避免提供明确的医疗或治疗建议，支持其作为非临床助手的角色。
• ChatGPT生成的患者对话总结总体上准确，但偶尔会遗漏关键的情感或上下文细节。
• 该系统在识别多轮会话中浮现的主题方面展现出潜力，使治疗师能够从纵向患者叙述中发现新见解。
• 尽管整体表现良好，但仍存在隐含医疗建议的风险，尤其是在解释复杂情绪表达时。
• 不相关话题偶有出现，但频率低于基线聊天机器人交互，表明通过提示工程可实现更优的专注度。