[论文解读] Chain of Empathy: Enhancing Empathetic Response of Large Language Models Based on Psychotherapy Models

Yoon Kyung Lee, Inju Lee+3 more|arXiv (Cornell University)|Nov 2, 2023

Mental Health via Writing被引用 5

一句话总结

本文提出链式共情（Chain of Empathy, CoE）提示框架，通过借鉴基于循证心理治疗的思维模式——认知行为疗法（Cognitive Behavioral Therapy, CBT）、辩证行为疗法（Dialectical Behavior Therapy, DBT）、以人为中心的疗法（Person-Centered Therapy, PCT）和现实治疗法（Reality Therapy, RT）——来增强大语言模型（LLMs）的共情回应能力。与标准提示方法相比，CoE 使 LLM 能够生成更具上下文相关性、更细腻且更平衡的共情回应，其中基于 CBT 的 CoE 产生的共情输出最为全面均衡。

ABSTRACT

We present a novel method, the Chain of Empathy (CoE) prompting, that utilizes insights from psychotherapy to induce Large Language Models (LLMs) to reason about human emotional states. This method is inspired by various psychotherapy approaches including Cognitive Behavioral Therapy (CBT), Dialectical Behavior Therapy (DBT), Person Centered Therapy (PCT), and Reality Therapy (RT), each leading to different patterns of interpreting clients' mental states. LLMs without reasoning generated predominantly exploratory responses. However, when LLMs used CoE reasoning, we found a more comprehensive range of empathetic responses aligned with the different reasoning patterns of each psychotherapy model. The CBT based CoE resulted in the most balanced generation of empathetic responses. The findings underscore the importance of understanding the emotional context and how it affects human and AI communication. Our research contributes to understanding how psychotherapeutic models can be incorporated into LLMs, facilitating the development of context-specific, safer, and empathetic AI.

研究动机与目标

• 为解决 LLM 在生成具有丰富上下文、情感契合的回应方面存在的局限，通过整合成熟心理治疗模型的结构化推理过程。
• 探究不同心理治疗框架如何影响 LLM 生成的共情回应的质量与类型。
• 开发一种提示策略，使 LLM 能在回应前通过情绪状态进行推理，从而提升共情能力与回应的平衡性。
• 评估将治疗推理模式整合是否能带来更安全、更可靠且更具上下文特异性的共情人工智能交互。
• 提出一种基于临床心理学原理的共情人工智能系统设计框架，以提升人机交互的质量。

提出的方法

• 链式共情（CoE）提示方法通过受 CBT、DBT、PCT 和 RT 核心原则启发的多步推理过程，结构化 LLM 的回应。
• 每种心理治疗模型贡献一种独特的推理模式：CBT 强调认知重构，DBT 关注情绪调节，PCT 以无条件积极关注为核心，RT 则强调责任意识与目标设定。
• CoE 框架引导 LLM 经历一系列推理步骤——识别情绪线索、分析认知或行为模式，并基于所选治疗模型制定回应。
• 该方法采用少样本提示，使用源自临床案例示例的模板，引导 LLM 采用每种治疗模型的推理风格。
• 仅在完成完整的 CoE 推理链后，才生成共情回应，确保回应的深度与治疗原则的一致性。
• 该方法在多个 LLM 和回应质量指标上进行了评估，将 CoE 与标准零样本提示及基线少样本方法进行对比。

实验结果

研究问题

• RQ1 整合基于心理治疗的推理模式如何影响 LLM 共情回应的质量与多样性？
• RQ2 在 CBT、DBT、PCT 和 RT 中，哪种心理治疗模型能为 LLM 生成最平衡且上下文恰当的共情回应？
• RQ3 与标准提示方法相比，CoE 提示在多大程度上提升了 LLM 回应的情感准确性与情感深度？
• RQ4 基于临床模型的结构化推理能否减少 LLM 生成过于通用或探索性回应的倾向？
• RQ5 CoE 的使用在以人为本的应用中，如何影响共情人工智能交互的安全性与可靠性？

主要发现

• 使用标准提示而无推理过程的 LLM 生成了大量探索性与通用性的共情回应，缺乏情感深度。
• 采用 CoE 提示后，LLM 生成了显著更广泛且更符合上下文的共情回应范围，且每种回应模式均与对应的心理治疗模型特征相符。
• 基于 CBT 的 CoE 方法生成了最平衡且最全面的共情回应，在回应质量与情感准确性方面优于其他模型。
• CoE 提示降低了表面化或非具体回应的频率，表明结构化推理可增强共情的深度。
• 整合心理治疗推理模式带来了更一致且更安全的回应，尤其在情绪敏感场景中表现突出。
• 该方法成功证明，LLM 可被引导模拟临床推理过程，从而实现更具人性化与上下文感知的共情能力。