[논문 리뷰] Towards Explainable and Safe Conversational Agents for Mental Health: A Survey

Surjodeep Sarkar, Manas Gaur외 4명|arXiv (Cornell University)|2023. 04. 25.

Digital Mental Health InterventionsPsychology인용 수 3

한 줄 요약

이 종합 검토에서는 임상 지식, 맥락 이해 및 사용자 중심 설계를 통합하여 설명 가능하고 안전하며 신뢰할 수 있는 가상 정신건강 보조자(VMHA) 개발을 위한 프레임워크를 제안한다. 임상 지침(예: PHQ-9), 동기부여 인터뷰 및 진단 인터뷰 기반의 질문/응답 생성을 강조하여 삼투 정확도와 사용자 신뢰를 향상시키며, 구현 시 윤리적 및 실용적 과제를 해결한다.

ABSTRACT

Virtual Mental Health Assistants (VMHAs) are seeing continual advancements to support the overburdened global healthcare system that gets 60 million primary care visits, and 6 million Emergency Room (ER) visits annually. These systems are built by clinical psychologists, psychiatrists, and Artificial Intelligence (AI) researchers for Cognitive Behavioral Therapy (CBT). At present, the role of VMHAs is to provide emotional support through information, focusing less on developing a reflective conversation with the patient. A more comprehensive, safe and explainable approach is required to build responsible VMHAs to ask follow-up questions or provide a well-informed response. This survey offers a systematic critical review of the existing conversational agents in mental health, followed by new insights into the improvements of VMHAs with contextual knowledge, datasets, and their emerging role in clinical decision support. We also provide new directions toward enriching the user experience of VMHAs with explainability, safety, and wholesome trustworthiness. Finally, we provide evaluation metrics and practical considerations for VMHAs beyond the current literature to build trust between VMHAs and patients in active communications.

연구 동기 및 목표

• 현재 VMHA 시스템에서의 맥락 기반, 설명 가능하고 안전한 대화형 에이전트 부족 문제를 해결하기 위해 핵심적 격차를 규명한다.
• 사용자 수준의 설명 가능성과 안전성을 강조하는 정신건강 대화의 분류 체계를 제안한다. 특히 능동적이고 반사적인 대화에서의 적용을 중점으로 한다.
• 임상 지식(예: PHQ-9, DSM-V)과 구조화된 인터뷰 기법(예: 동기부여 인터뷰, CDI)을 VMHA 설계에 통합하여 의사결정 지원을 향상시킨다.
• 설명 가능성, 안전 메커니즘, 윤리적 데이터 처리를 통해 VMHA의 신뢰성을 향상시켜 고위험 정신건강 삼투 상황에서의 신뢰도를 높인다.
• 현재 기준을 초월하여 실제 세계의 사용성과 임상 통합을 중시하는 실용적 평가 지표 및 설계 고려사항을 제공한다.

제안 방법

• 저수준 NLP(어휘적, 문법적)에서 고수준의 논의 및 담론까지 포함하는 정신건강 대화의 분류 체계를 제안하며, 설명 가능성과 안전성에 중점을 둔다.
• 응답을 증거 기반 정신건강 평가 프레임워크에 기반시키기 위해 임상 지침(예: PHQ-9, DSM-V)을 VMHA 설계에 통합한다.
• 검증된 선별 도구에 기반한 구조화된 질문 생성을 활용하는 지식 기반 대화형 에이전트를 권장하여 정신건강 장애를 탐지한다.
• 공감적이고 사용자 중심의 대화를 가능하게 하여 오락심과 행동 변화를 지원하기 위해 동기부여 인터뷰(MI) 기법을 통합한다.
• 익명화, 데이터 추상화, 합성 대화 생성과 같은 실용적인 데이터 정제 전략을 제안하여 개인정보 보호 및 주석 처리 과제를 해결한다.
• 표준 NLP 기준을 초월하여 임상적 관련성, 안전성, 사용자 신뢰를 평가하는 데 중점을 둔 평가 지표를 권장한다. 이는 실제 영향을 평가하기 위함이다.

Figure 1: Taxonomy of Mental Health Conversations: While connecting dots in our investigation from NLP-centered low-level analysis (lexical, morphological, syntactic, semantic) over Mental health conversations to the higher-level analysis (discourses, pragmatics), we determine the evaluation metrics

실험 결과

연구 질문

• RQ1 정신건강 분야의 대화형 에이전트는 고위험 삼투 상황에서 사용자 수준의 설명 가능성과 안전성을 어떻게 향상시킬 수 있는가?
• RQ2 현재 VMHA는 얼마나 많은 정도로 임상 지침(예: PHQ-9, DSM-V)을 응답 생성 및 질문 유도에 통합하지 못하고 있는가?
• RQ3 동기부여 인터뷰(MI) 원칙은 어떻게 VMHA에 적응시켜 사용자 참여도와 임상 결과를 향상시킬 수 있는가?
• RQ4 VMHA 훈련 및 구현 과정에서 개인정보 보호, 품질, 신뢰성을 확보하기 위한 실용적인 데이터 및 모델 설계 전략은 무엇인가?
• RQ5 표준 NLP 기준을 초월하여 임상적 안전성, 설명 가능성, 효과성을 평가하기 위해 필요한 평가 지표 및 프레임워크는 무엇인가?

주요 결과

• Woebot, Wysa, ChatGPT와 같은 현재 VMHA는 맥락 기반 없이 정신건강 질문에 응답하여 가정적이거나 부적절한 응답을 유도하는 경향이 있다.
• 임상 지침(예: PHQ-9)을 통합한 VMHA는 정신건강 이상 징후를 더 정확하게 탐지하고 정신건강 전문가에게 적절한 경고를 발송할 수 있다.
• 검증된 도구에 기반한 구조화된 질문 생성을 활용하는 지식 기반 에이전트는 삼투 신뢰성 및 임상 의사결정 지원을 향상시키는 데 잠재력이 있다.
• 동기부여 인터뷰(MI) 기법의 통합은 반사적이고 공감적인 방식으로 오락심을 다루어 사용자 참여도 향상과 행동 변화 지원에 기여한다.
• 익명화, 데이터 추상화, 합성 데이터 생성과 같은 윤리적 데이터 관행은 사용자 개인정보를 보호하면서도 신뢰할 수 있는 VMHA를 구축하는 데 핵심적이다.
• 기존 NLP 평가 지표는 VMHA의 안전성과 설명 가능성을 평가하는 데 부적절하다. 실제 구현을 위해 새로운 임상 기반 지표가 필요로 한다.

Figure 2: (Left) The outcome from existing VMHAs (e.g., WoeBot, Wysa) and ChatGPT (general purpose chatbot). (Right) Illustration of a knowledge-driven conversational agent in mental health (desired VMHA). The use of questions in PHQ-9 to induce conceptual flow in mental health conversational agents