[論文レビュー] Chain of Empathy: Enhancing Empathetic Response of Large Language Models Based on Psychotherapy Models

Yoon Kyung Lee, Inju Lee+3 more|arXiv (Cornell University)|Nov 2, 2023

Mental Health via Writing被引用数 5

ひとこと要約

本論文では、認知行動療法（CBT）、対人関係的行動療法（DBT）、個人中心療法（PCT）、現実療法（RT）といった、根拠に基づく心理療法のアプローチを模倣した推論プロセスを用いることで、大規模言語モデル（LLMs）の共感的対応を向上させる、Chain of Empathy（CoE）と呼ばれるプロンプティングフレームワークを紹介する。CoEは、標準的なプロンプティングに比べ、文脈的に適切で、洗練され、バランスの取れた共感的対応を生成できる。特にCBTに基づくCoEは、最も包括的でバランスの取れた共感的出力を得た。

ABSTRACT

We present a novel method, the Chain of Empathy (CoE) prompting, that utilizes insights from psychotherapy to induce Large Language Models (LLMs) to reason about human emotional states. This method is inspired by various psychotherapy approaches including Cognitive Behavioral Therapy (CBT), Dialectical Behavior Therapy (DBT), Person Centered Therapy (PCT), and Reality Therapy (RT), each leading to different patterns of interpreting clients' mental states. LLMs without reasoning generated predominantly exploratory responses. However, when LLMs used CoE reasoning, we found a more comprehensive range of empathetic responses aligned with the different reasoning patterns of each psychotherapy model. The CBT based CoE resulted in the most balanced generation of empathetic responses. The findings underscore the importance of understanding the emotional context and how it affects human and AI communication. Our research contributes to understanding how psychotherapeutic models can be incorporated into LLMs, facilitating the development of context-specific, safer, and empathetic AI.

研究の動機と目的

• LLMs が文脈的に豊かで感情に配慮した対応を生成する能力に欠けるという限界を是正するため、確立された心理療法モデルからの構造的推論を統合すること。
• 異なる心理療法フレームワークが、LLMs が生成する共感的対応の質と種類にどのように影響するかを調査すること。
• LLMs が反応する前に感情状態を推論するプロンプティング戦略を開発し、共感の質とバランスを向上させること。
• 治療的推論パターンを統合することで、より安全で信頼性が高く、文脈に特化した共感的 AI インタラクションが実現するかどうかを評価すること。
• 臨床心理学の原則に基づいた、共感的 AI システムを設計するためのフレームワークを貢献することにより、人間と AI 間のコミュニケーションの質を向上させること。

提案手法

• Chain of Empathy（CoE）プロンプティング法は、CBT、DBT、PCT、RT のコア原則を模倣した多段階の推論プロセスを通じて、LLM の出力を構造化する。
• 各心理療法モデルが独自の推論パターンを提供する：CBT は認知再構成を重視し、DBT は感情調節に焦点を当て、PCT は無条件的肯定的関心を核とし、RT は責任と目標設定を重視する。
• CoE フレームワークは、感情的キーワードの特定、認知的・行動的パターンの分析、選択された治療モデルに整合した対応の構築という、段階的な推論ステップに従って LLM を導く。
• 臨床事例から抽出したテンプレートを用いた少数-shot プロンプティングにより、LLM が各療法モデルの推論スタイルを模倣できるように誘導する。
• 共感的対応は、CoE 推論チェーンの全行程を完了した後のみ生成され、治療的原則に整合した深さと整合性が保証される。
• 本手法は、複数の LLM と複数の応答品質メトリクスを用いて評価され、標準的なゼロショットプロンプティングおよびベースライン少数-shot メソッドと比較された。

実験結果

リサーチクエスチョン

• RQ1 心理療法に基づく推論パターンを統合することで、LLMs の共感的対応の質と多様性はどのように変化するか？
• RQ2 CBT、DBT、PCT、RT のうち、どの心理療法モデルが、LLMs に対して最もバランスが取れて文脈的に適切な共感的対応をもたらすか？
• RQ3 標準的なプロンプティングに比べ、CoE プロンプティングは LLM の出力における感情の正確さと深さをどの程度向上させるか？
• RQ4 臨床的モデルに基づく構造的推論は、LLMs が一般的すぎる、あるいは探索的すぎる対応を生成する傾向を軽減できるか？
• RQ5 CoE の使用は、人間中心の応用における共感的 AI インタラクションの安全性と信頼性にどのように影響するか？

主な発見

• 標準的なプロンプティング（推論なし）を用いた LLM は、主に探索的で一般的な共感的対応を生成し、感情的な深みに欠けていた。
• CoE プロンプティングを適用した場合、LLMs は顕著に広範かつ文脈的に適切な共感的対応の範囲を生成し、各心理療法モデルに特徴的なパターンが明確に現れた。
• CBT をベースにした CoE アプローチが、他のモデルに比べて最もバランスが取れて洗練された共感的対応を生み出し、応答の質と感情的正確性の両面で優れていた。
• CoE プロンプティングにより、表面的で曖昧な対応の頻度が低下し、構造的推論が共感の深さを向上させることを示した。
• 心理療法的推論パターンの統合により、特に感情的に敏感な状況において、より一貫性があり安全な対応が得られた。
• 本手法は、LLMs が臨床的推論プロセスを模倣できることが成功裏に示され、より人間らしい、文脈に配慮した共感を実現できることが明らかになった。