[論文レビュー] Towards Explainable and Safe Conversational Agents for Mental Health: A Survey

Surjodeep Sarkar, Manas Gaur+4 more|arXiv (Cornell University)|Apr 25, 2023

Digital Mental Health InterventionsPsychology被引用数 3

ひとこと要約

本サーベイは、臨床的知識、文脈理解、ユーザ中心設計を統合することで、説明可能で安全かつ信頼できる仮想メンタルヘルスアシスタント（VMHA）を開発するためのフレームワークを提案する。臨床ガイドライン（例：PHQ-9）、動機付け面接、診断面接に基づいた質問／応答生成を強調することで、トリアージの正確性とユーザの信頼を向上させるとともに、展開における倫理的・実務的課題に対処する。

ABSTRACT

Virtual Mental Health Assistants (VMHAs) are seeing continual advancements to support the overburdened global healthcare system that gets 60 million primary care visits, and 6 million Emergency Room (ER) visits annually. These systems are built by clinical psychologists, psychiatrists, and Artificial Intelligence (AI) researchers for Cognitive Behavioral Therapy (CBT). At present, the role of VMHAs is to provide emotional support through information, focusing less on developing a reflective conversation with the patient. A more comprehensive, safe and explainable approach is required to build responsible VMHAs to ask follow-up questions or provide a well-informed response. This survey offers a systematic critical review of the existing conversational agents in mental health, followed by new insights into the improvements of VMHAs with contextual knowledge, datasets, and their emerging role in clinical decision support. We also provide new directions toward enriching the user experience of VMHAs with explainability, safety, and wholesome trustworthiness. Finally, we provide evaluation metrics and practical considerations for VMHAs beyond the current literature to build trust between VMHAs and patients in active communications.

研究の動機と目的

• 現在のVMHAシステムにおける文脈的・説明可能で安全な対話型エージェントの欠如に対処し、その主要なギャップを同定すること。
• 特に能動的・反映的対話において、ユーザレベルの説明可能性と安全性に焦点を当てた、メンタルヘルス対話の分類法を提唱すること。
• 臨床的知識（例：PHQ-9、DSM-V）と構造化された面接技術（例：動機付け面接、CDI）をVMHA設計に統合し、意思決定支援を向上させること。
• 説明可能性、安全対策、倫理的データ取り扱いを通じて、特に高リスクのメンタルヘルストリアージにおいてVMHAの信頼性を向上させること。
• 現在のベンチマークを越えて、現実世界での使いやすさと臨床統合を重視し、VMHAのための実用的評価指標と設計上の配慮を提供すること。

提案手法

• 低レベルのNLP（語彙的、文法的）から高レベルの話法的・実用的要素までをカバーするメンタルヘルス対話の分類法を提案し、説明可能性と安全性に焦点を当てる。
• 臨床ガイドライン（例：PHQ-9、DSM-V）をVMHA設計に統合し、根拠に基づくメンタルヘルス評価フレームワークに応答を根拠づける。
• 有効性が検証されたスクリーニングツールに基づく構造化された質問生成を用いる知識主導型対話エージェントの導入を提唱する。
• 共感的でユーザ中心の対話を可能にするために、動機付け面接（MI）技術を統合し、曇りや葛藤を解消し、行動変容を支援する。
• 匿名化、データ抽象化、合成対話生成などの実用的データキュレーション戦略を提言し、プライバシーとアノテーションの課題に対処する。
• 標準NLPベンチマークを超えて、臨床的関連性、安全性、ユーザ信頼性に焦点を当てた評価指標を推奨する。

Figure 1: Taxonomy of Mental Health Conversations: While connecting dots in our investigation from NLP-centered low-level analysis (lexical, morphological, syntactic, semantic) over Mental health conversations to the higher-level analysis (discourses, pragmatics), we determine the evaluation metrics

実験結果

リサーチクエスチョン

• RQ1 どのようにしてメンタルヘルス分野の対話型エージェントを、特に高リスクのトリアージ状況において、ユーザレベルでより説明可能で安全なものにできるか？
• RQ2 現在のVMHAは、応答生成や質問提示において、臨床的知識（例：PHQ-9、DSM-V）をどれほど統合していないか？
• RQ3 動機付け面接（MI）の原則をVMHAにどのように適応させれば、ユーザの関与度と臨床的成果を向上させられるか？
• RQ4 VMHAのトレーニングと展開において、プライバシー、品質、信頼性を確保するための実用的データおよびモデル設計戦略は何か？
• RQ5 標準NLPベンチマークを超えて、臨床的安全性、説明可能性、有効性を評価するための、どのような評価指標とフレームワークが必要か？

主な発見

• Woebot や Wysa、ChatGPT といった現在のVMHAは、多くの場合、文脈的根拠なしにメンタルヘルスに関する質問に応答し、仮定的または不適切な応答を返す傾向がある。
• 臨床ガイドライン（例：PHQ-9）を統合したVMHAは、メンタルヘルスの障害をより正確に検出でき、精神保健専門家への適切なアラートを発動できる。
• 有効性が検証されたツールに基づく構造化された質問生成を用いる知識主導型エージェントは、トリアージの信頼性と臨床意思決定支援の向上に潜在的である。
• 動機付け面接（MI）技術の統合は、共感的かつ反映的な方法で曇りや葛藤に対処することで、ユーザの関与度を高め、行動変容を支援する。
• 匿名化、データ抽象化、合成データ生成などの倫理的データ実務は、ユーザのプライバシーを守りながら信頼できるVMHAを構築するために不可欠である。
• 現在のNLP評価指標は、VMHAの安全性や説明可能性を評価するには不十分である。現実世界での展開に適した、臨床的根拠に基づいた新たな指標の開発が求められる。

Figure 2: (Left) The outcome from existing VMHAs (e.g., WoeBot, Wysa) and ChatGPT (general purpose chatbot). (Right) Illustration of a knowledge-driven conversational agent in mental health (desired VMHA). The use of questions in PHQ-9 to induce conceptual flow in mental health conversational agents