[論文レビュー] Rethinking Large Language Models in Mental Health Applications

Shaoxiong Ji, Tianlin Zhang+3 more|arXiv (Cornell University)|Nov 19, 2023

Mental Health via Writing被引用数 11

ひとこと要約

この論文は、メンタルヘルスのタスクに対する生成型LLMの使用を批判し、不安定性、幻覚の可能性、説明可能性と解釈可能性の区別を指摘するとともに、人間中心で監査可能かつ inherentに解釈可能なアプローチを提唱します。

ABSTRACT

Large Language Models (LLMs) have become valuable assets in mental health, showing promise in both classification tasks and counseling applications. This paper offers a perspective on using LLMs in mental health applications. It discusses the instability of generative models for prediction and the potential for generating hallucinatory outputs, underscoring the need for ongoing audits and evaluations to maintain their reliability and dependability. The paper also distinguishes between the often interchangeable terms ``explainability'' and ``interpretability'', advocating for developing inherently interpretable methods instead of relying on potentially hallucinated self-explanations generated by LLMs. Despite the advancements in LLMs, human counselors' empathetic understanding, nuanced interpretation, and contextual awareness remain irreplaceable in the sensitive and complex realm of mental health counseling. The use of LLMs should be approached with a judicious and considerate mindset, viewing them as tools that complement human expertise rather than seeking to replace it.

研究の動機と目的

• 現在の状況とメンタルヘルスアプリケーションにおける生成型LLMの課題を評価する。
• 生成ベースの予測と説明における不安定性と幻覚リスクを強調する。
• メンタルヘルスAIにおける解釈可能性と説明可能性の違いを明確にする。
• 人間中心の視点で、臨床医を補完するツールとしてLLMsを使用するべきで、置き換えるべきではないと主張する。

提案手法

• LLMを用いたメンタルヘルス応用の最近の展開を、早期予測、説明、カウンセリングを含めてレビューする。
• 生成を予測としての不安定性とメタ最適化を潜在的な説明フレームワークとして議論する。
• 解釈可能性と説明可能性を比較し、LLMが生成する説明の忠実性を評価する。
• メンタルヘルスの文脈でのLLMsの導入に関する監査、安全性、倫理的ガイドラインを提案する。
• カウンセリングチャットボットと人間中心設計への示唆を統合する。

Figure 1: A paradigm shift in NLP for mental health applications from masked language models such as BERT to generative language models such as GPT and LLaMA. Images of BERT, GPT, LLaMA are generated by Midjourney AI Art Generator .

実験結果

リサーチクエスチョン

• RQ1 生成型LLMを用いたメンタルヘルス予測とカウンセリングの主な制限とリスクは何か。
• RQ2 メンタルヘルスに適用されたLLMの文脈で、解釈可能性と説明可能性はどのように異なり、どのような忠実性の問題が生じるか。
• RQ3 メンタルヘルス設定で責任をもってLLMsを展開するために、どのような安全策・監査・倫理的配慮が必要か。

主な発見

• 生成ベースの予測における小さなプロンプト変化でもLLMsが不安定になる。
• LLMが生成する説明は忠実でない可能性があり、真の解釈可能性を保証しない。
• 専門化されたタスク駆動の識別モデルは、メンタルヘルス分類において生成ベースのアプローチを上回ることがある。
• いくつかのLLMsは高リスクな使用を明示的に制限しており、倫理的・実務的な懸念を反映している。
• 人間は共感的な理解と文脈的感受性を提供し、現状のLLMsはメンタルヘルスカウンセリングで置き換えることができない。
• 信頼性・バイアス・入力感度の監査は責任ある利用に不可欠である。

Figure 2: An illustration of prompting from the view of meta update. The change in the prompt might lead to suboptimal, possibly explaining the unpredictable LLMs’ generation-as-prediction.