[논문 리뷰] ChatGPT as a Therapist Assistant: A Suitability Study

Mahshid Eshghie, Mojtaba Eshghie|arXiv (Cornell University)|2023. 04. 19.

Digital Mental Health Interventions인용 수 4

한 줄 요약

이 연구는 환자들이 치료 세션 사이에 정서적 지지, 상호작용 요약, 치료사에게 통찰을 제공할 수 있도록 대화 기반의 공감 능력, 요약 기능, 치료 지원 기능을 활용해 ChatGPT를 치료 보조 도구로 활용하는 데 초점을 맞춘다. 결과적으로 ChatGPT는 검증을 제공하고 명시적인 의료 조언을 피하며 반복적인 대화에서 유용한 패턴을 추출할 수 있으나, 때로는 핵심 정보를 놓치거나 암시적인 임상 지침을 제공할 위험이 있음을 확인했다.

ABSTRACT

This paper proposes using ChatGPT, an innovative technology with various applications, as an assistant for psychotherapy. ChatGPT can serve as a patient information collector, a companion for patients in between therapy sessions, and an organizer of gathered information for therapists to facilitate treatment processes. The research identifies five research questions and discovers useful prompts for fine-tuning the assistant, which shows that ChatGPT can participate in positive conversations, listen attentively, offer validation and potential coping strategies without providing explicit medical advice, and help therapists discover new insights from multiple conversations with the same patient. Using ChatGPT as an assistant for psychotherapy poses several challenges that need to be addressed, including technical as well as human-centric challenges which are discussed.

연구 동기 및 목표

• 세션 간 정신건강 치료에서 ChatGPT의 비임상적 보조 도구로서의 적합성을 평가하기 위해.
• 명시적인 치료 조언을 제공하지 않고도 정서적 지지와 공감 능력을 유지할 수 있는지 평가하기 위해.
• 치료사 검토 및 통찰 생성을 위해 환자 대화를 요약하는 데의 효과성을 평가하기 위해.
• 치료적 지원을 위해 ChatGPT의 행동을 최적화하면서 위험을 최소화할 수 있는 프롬프트를 특정하기 위해.
• AI 기반 정신건강 응용 프로그램에서 신뢰성, 정확성, 관련성의 과제를 탐색하기 위해.

제안 방법

• 연구는 ChatGPT의 역할을 이끌기 위해 맞춤형 프롬프트를 사용해 최적화된 버전을 설계하고 테스트하였다.
• 환자 시뮬레이션을 통해 정서적 지지, 경청, 요약 작업을 평가하기 위해 네 가지 별도의 대화 세트를 수행하였다.
• 활동적 경청, 공감, 의료 조언 회피를 향상시키기 위해 프롬프트를 반복적으로 개선하였다.
• 치료사 보고를 위해 반복적인 환자 상호작용에서 핵심 주제와 정서적 내용을 추출할 수 있는 능력을 평가하였다.
• 임상적 권고로의 이격 없이 정서적 지지 중심의 대화를 유지하는 일관성을 테스트하였다.
• 정성적 및 관찰 기반 분석을 통해 출력 품질, 관련성, 암시적 의료 조언의 위험성을 평가하였다.

실험 결과

연구 질문

• RQ1 RQ1: ChatGPT는 명시적인 의료 또는 치료 조언을 피하는 데 얼마나 신뢰할 수 있는가?
• RQ2 RQ2: ChatGPT는 대화 중에 활동적 경청을 보이고 긍정적인 공감을 제공할 수 있는가?
• RQ3 RQ3: ChatGPT는 다음 세션 전에 치료사 검토를 위해 환자 대화를 요약하는 데 얼마나 정확한가?
• RQ4 RQ4: ChatGPT는 의료 조언으로의 이격 없이 정서적 지지 중심을 유지할 수 있는 정도는 어느 정도인가?
• RQ5 RQ5: ChatGPT는 치료적 대화 중에 관련 없는 주제를 도입하는가?

주요 결과

• ChatGPT는 긍정적이고 공감적인 대화에 성공적으로 참여했으며, 환자의 노력과 정서를 인정함으로써 활동적 경청을 보였다.
• 모델은 명시적인 의료 또는 치료 조언을 일관되게 피함으로써 비임상적 보조 도구로서의 역할을 뒷받침했다.
• ChatGPT는 일반적으로 정확한 요약을 생성했지만, 중요한 정서적 또는 맥락적 세부 정보를 놓치는 경우가 있었다.
• 시스템은 다수의 세션에 걸친 주제의 변화를 식별할 잠재력을 보였으며, 이는 장기적 환자 서사에서 치료사가 새로운 통찰을 도출할 수 있도록 했다.
• 전반적인 양호한 성능에도 불구하고, 특히 복잡한 정서적 표현을 해석할 경우 암시적 의료 조언의 위험이 있었으며,
• 관련 없는 주제가 가끔 도입되었지만, 기본 챗봇 상호작용보다는 빈도가 낮아 프롬프트 엔지니어링을 통해 집중도 향상된 것으로 나타났다.