[論文レビュー] Cognitive Reframing of Negative Thoughts through Human-Language Model Interaction

A. Sharma, Kevin Rushton+6 more|arXiv (Cornell University)|May 4, 2023

Mental Health via Writing被引用数 6

ひとこと要約

本論文は、臨床心理学的知見に基づく7つの専門家が定義した言語的特徴（例：共感、明確性、合理性）に従って、ネガティブな思考を個人化され、高品質な認知的再構成に変換する、リtrieval強化型のコンテキスト内学習モデルを提案する。2,067名の参加者を対象にMental Health Americaで実施した無作為化現.field研究において、過度にポジティブな表現よりも共感的かつ具体的な再構成が好まれることが示され、LLMを用いた倫理的かつアクセス可能なメンタルヘルス支援のための実用的知見が得られた。

ABSTRACT

A proven therapeutic technique to overcome negative thoughts is to replace them with a more hopeful "reframed thought." Although therapy can help people practice and learn this Cognitive Reframing of Negative Thoughts, clinician shortages and mental health stigma commonly limit people's access to therapy. In this paper, we conduct a human-centered study of how language models may assist people in reframing negative thoughts. Based on psychology literature, we define a framework of seven linguistic attributes that can be used to reframe a thought. We develop automated metrics to measure these attributes and validate them with expert judgements from mental health practitioners. We collect a dataset of 600 situations, thoughts and reframes from practitioners and use it to train a retrieval-enhanced in-context learning model that effectively generates reframed thoughts and controls their linguistic attributes. To investigate what constitutes a "high-quality" reframe, we conduct an IRB-approved randomized field study on a large mental health website with over 2,000 participants. Amongst other findings, we show that people prefer highly empathic or specific reframes, as opposed to reframes that are overly positive. Our findings provide key implications for the use of LMs to assist people in overcoming negative thoughts.

研究の動機と目的

• 臨床心理学から導出された言語的根拠に基づく、効果的な認知的再構成を特徴づけるフレームワークの構築を目的とする。
• 共感、明確性、合理性など7つの主要な再構成特徴（例：共感、明確性、合理性）の自動測定指標を構築し、メンタルヘルス専門家の判断と照合して妥当性を検証することを目的とする。
• 600件の専門家アノテーション付き状況、思考、再構成済み思考のデータセットを収集・公開し、トレーニングおよび評価用に活用することを目的とする。
• リトリーブ強化型のコンテキスト内学習モデルを設計・実装し、生成される再構成における言語的特徴を制御することを目的とする。
• 米国規模のメンタルヘルスプラットフォーム上でIRB承認を得た現.field研究を通じて、ユーザーがどの再構成特徴を好むかを評価することを目的とする。

提案手法

• 認知的再構成に適した7つの言語的特徴（思考の落とし穴への対処、合理性、ポジティブさ、共感、実行可能性、明確性、読みやすさ）の概念的フレームワークを構築した。
• 自然言語処理技術を用いて各特徴の自動測定指標を開発し、メンタルヘルス専門家によるアノテーションとの相関を確認することで妥当性を検証した。
• 臨床心理学の大学院生および専門家から、実世界の状況、ネガティブな思考、および専門家が提言する再構成済み思考の合計600件のデータセットを収集した。
• 関連する例をリトリーブし、プロンプトテンプレートをファインチューニングすることで、生成される再構成における目的の言語的特徴を制御するリトリーブ強化型のコンテキスト内学習モデルを構築した。
• Mental Health Americaのプラットフォームにモデルをデプロイし、2,067名の参加者を対象に無作為化現.field研究を実施。異なる特徴レベル（例：高共感 vs. 低共感）を持つ再構成を比較した。
• 参加者の同意と匿名化プロトコルを踏まえ、regexパターンを用いた自殺的思考のフィルタリングと、危機対応リソースへのリンクを含む、安全対策を実装した。

実験結果

リサーチクエスチョン

• RQ1 ネガティブな思考を経験している人々が、再構成された思考においてどの言語的特徴を最も好むか？
• RQ2 異なる特徴レベル（例：高共感 vs. 低共感）は、再構成された思考の共感性、有用性、記憶性にどのように影響するか？
• RQ3 自動測定指標は、臨床的に関連する再構成特徴を信頼性高く測定できるか？また、専門家の判断とどの程度相関するか？
• RQ4 リトリーブ強化型のコンテキスト内学習アプローチは、標準的なLLMベースラインに比べ、高品質で特徴制御可能な再構成を生成する上で優れているか？
• RQ5 実世界のメンタルヘルス支援システムへのLLMのデプロイに際して、倫理的および実務的配慮事項は何か？

主な発見

• 参加者らは、過度にポジティブまたは一般的な表現よりも、共感的または具体的な再構成を好んだ。
• リトリーブ強化型のコンテキスト内学習モデルは、専門家が提言する再構成と最も高い一致度を示し、メンタルヘルス専門家からの共感性および有用性評価でも最高得点を記録した。
• 7つの再構成特徴の自動測定指標は、専門家の判断と有意に相関しており、構成妥当性が裏付けられた。
• 2,067名の参加者を対象に実施した現.field研究により、個人化され、文脈的に関連性のある再構成が、一般的または人工的にポジティブな表現よりも効果的であることが確認された。
• 自殺的思考のregexフィルタリングと危機対応リソースへのリンクを含む安全対策は、出力の危険性を効果的に低減したが、ユーザビリティには影響を与えないままだった。
• 本研究は、現実の状況でAI支援による認知的再構成が、スケールアップ可能な形で効果的かつ倫理的に実装可能であることを示した。