[논문 리뷰] Chain of Empathy: Enhancing Empathetic Response of Large Language Models Based on Psychotherapy Models

Yoon Kyung Lee, Inju Lee외 3명|arXiv (Cornell University)|2023. 11. 02.

Mental Health via Writing인용 수 5

한 줄 요약

이 논문은 인지행동치료(CBT), 딜레마틱 행동치료(DBT), 개인중심치료(PCT), 현실치료(RT)와 같은 증거 기반 정신치료 접근 방식을 영감으로 삼아 추론 과정을 모델링함으로써 대규모 언어 모델(LLMs)의 공감적 반응 능력을 향상시키는 프롬프팅 프레임워크인 체인 오브 응시(Chain of Empathy, CoE)를 소개한다. CoE는 표준 프롬프팅에 비해 더 맥락에 부합하고 세밀하며 균형 잡힌 공감적 반응을 생성할 수 있도록 도와주며, 특히 CBT 기반 CoE가 가장 균형 잡힌 공감적 출력을 낳는다.

ABSTRACT

We present a novel method, the Chain of Empathy (CoE) prompting, that utilizes insights from psychotherapy to induce Large Language Models (LLMs) to reason about human emotional states. This method is inspired by various psychotherapy approaches including Cognitive Behavioral Therapy (CBT), Dialectical Behavior Therapy (DBT), Person Centered Therapy (PCT), and Reality Therapy (RT), each leading to different patterns of interpreting clients' mental states. LLMs without reasoning generated predominantly exploratory responses. However, when LLMs used CoE reasoning, we found a more comprehensive range of empathetic responses aligned with the different reasoning patterns of each psychotherapy model. The CBT based CoE resulted in the most balanced generation of empathetic responses. The findings underscore the importance of understanding the emotional context and how it affects human and AI communication. Our research contributes to understanding how psychotherapeutic models can be incorporated into LLMs, facilitating the development of context-specific, safer, and empathetic AI.

연구 동기 및 목표

• 기존의 정신치료 모델의 구조적 추론 원리를 통합함으로써 LLM이 맥락적으로 rich하고 정서적으로 공감하는 반응을 생성하는 데에 한계가 있음을 해결하기 위해.
• 다양한 정신치료 프레임워크가 LLM이 생성하는 공감적 반응의 품질과 유형에 어떤 영향을 미치는지 조사하기 위해.
• LLM이 반응하기 전에 정서 상태를 추론할 수 있도록 하는 프롬프팅 전략을 개발하기 위해.
• 치료적 추론 패턴을 통합함으로써 더 안전하고 신뢰성 있고 맥락에 특화된 공감형 AI 상호작용이 이루어지는지 평가하기 위해.
• 임상 심리학 원리에 기반한 공감형 AI 시스템 설계 프레임워크를 기여하기 위해.

제안 방법

• 체인 오브 응시(CoE) 프롬프팅 방법은 CBT, DBT, PCT, RT의 核심 원리를 영감으로 삼은 다단계 추론 과정을 통해 LLM의 반응을 구조화한다.
• 각 정신치료 모델은 고유한 추론 패턴을 기여한다: CBT는 인지 재구성에 중점을 두며, DBT는 정서 조절에 집중하고, PCT는 무조건적 긍정적 존중을 중심으로 삼고, RT는 책임감과 목표 설정을 강조한다.
• CoE 프레임워크는 LLM이 순차적인 추론 단계를 거치도록 이끈다—정서적 신호 식별, 인지적 또는 행동적 패턴 분석, 선택된 치료 모델에 부합하는 반응 구성.
• 임상 사례 예시에서 유도된 템플릿을 사용한 소수 샘플 프롬프팅을 통해 LLM이 각 치료 모델의 추론 스타일을 채택하도록 이끈다.
• 완전한 CoE 추론 체인을 완료한 후에야 공감적 반응이 생성되며, 이는 깊이와 치료 원칙에의 부합을 보장한다.
• 다양한 LLM과 반응 품질 측정 기준을 대상으로 이 방법을 평가하였으며, CoE는 표준 제로샷 프롬프팅 및 기준 소수 샘플 방법과 비교되었다.

실험 결과

연구 질문

• RQ1 정신치료 기반의 추론 패턴을 통합할 경우 LLM의 공감적 반응 품질과 다양성에 어떤 영향을 미치는가?
• RQ2 CBT, DBT, PCT, RT 중 어떤 정신치료 모델이 LLM의 가장 균형 잡히고 맥락에 부합하는 공감적 반응을 이끌어내는가?
• RQ3 표준 프롬프팅에 비해 CoE 프롬프팅은 LLM의 반응에 정서적 정확도와 깊이를 어느 정도 향상시키는가?
• RQ4 임상 모델 기반의 구조적 추론이 LLM이 너무 일반적이거나 탐색적인 반응을 생성하는 경향을 줄일 수 있는가?
• RQ5 CoE 사용이 인간 중심의 애플리케이션에서 공감형 AI 상호작용의 안전성과 신뢰성에 어떤 영향을 미치는가?

주요 결과

• 표준 프롬프팅을 사용할 경우 LLM은 정서적 깊이가 부족한 주로 탐색적이고 일반적인 공감 반응을 생성하였다.
• CoE 프롬프팅을 적용한 결과, LLM은 훨씬 더 넓고 맥락에 부합하는 공감 반응의 범위를 생성하였으며, 각 정신치료 모델에 해당하는 고유한 패턴을 보였다.
• CBT 기반 CoE 접근 방식이 가장 균형 잡히고 잘 조율된 공감 반응을 낳았으며, 다른 모델에 비해 반응 품질과 정서적 정확도에서 뛰어났다.
• CoE 프롬프팅은 표면적이거나 특이성이 없는 반응의 빈도를 감소시켰으며, 이는 구조적 추론이 공감의 깊이를 향상시킨다는 것을 보여주었다.
• 정신치료 추론 패턴의 통합은 특히 정서적으로 민감한 상황에서 더 일관되고 안전한 반응을 이끌어내었으며,
• 이 방법은 LLM이 임상적 추론 과정을 모방할 수 있음을 성공적으로 입증하였으며, 이는 더 인간다운, 맥락 인지 능력이 향상된 공감을 가능하게 하였다.