[논문 리뷰] The Typing Cure: Experiences with Large Language Model Chatbots for Mental Health Support

Inhwa Song, Sachin R. Pendse외 2명|arXiv (Cornell University)|2024. 01. 25.

Mental Health via Writing인용 수 12

한 줄 요약

이 연구는 21명의 다양한 개인이 정신 건강 지원을 위해 대형 언어 모델 챗봇을 어떻게 이용하는지 분석하고, 치료적 정렬을 도입하며 정신 건강 관리에서 윤리적으로 정렬된 AI 도구에 대한 디자인 권고를 제시합니다.

ABSTRACT

People experiencing severe distress increasingly use Large Language Model (LLM) chatbots as mental health support tools. Discussions on social media have described how engagements were lifesaving for some, but evidence suggests that general-purpose LLM chatbots also have notable risks that could endanger the welfare of users if not designed responsibly. In this study, we investigate the lived experiences of people who have used LLM chatbots for mental health support. We build on interviews with 21 individuals from globally diverse backgrounds to analyze how users create unique support roles for their chatbots, fill in gaps in everyday care, and navigate associated cultural limitations when seeking support from chatbots. We ground our analysis in psychotherapy literature around effective support, and introduce the concept of therapeutic alignment, or aligning AI with therapeutic values for mental health contexts. Our study offers recommendations for how designers can approach the ethical and effective use of LLM chatbots and other AI mental health support tools in mental health care.

연구 동기 및 목표

• 다양한 배경의 개인들이 LLM 챗봇을 정신 건강 지원에 어떻게 활용하는지 이해한다.
• 동반자이자 치료 도구로서 LLM 챗봇의 역할과 한계를 식별한다.
• 정신치료 이론에 근거해 AI가 정신 건강 맥락에서 치료적 정렬을 정의하도록 연구 결과를 뒷받침한다.
• AI 정신 건강 도구를 치료적 가치에 맞추기 위한 설계 권고를 제안한다.

제안 방법

• 전 세계적으로 다양한 배경의 21명 참가자를 대상으로 LLM 챗봇을 정신 건강 지원에 사용한 경우에 대한 반구조화 인터뷰를 수행했다.
• 온라인 커뮤니티를 통해 목적 표집과 눈덩이 샘플링을 사용하여 참가자를 모집했다.
• 주제 식별을 위해 개방 코딩과 주제 분석을 포함한 귀납적 질적 분석을 적용했다.
• 정신치료 문헌에 기반해 챗봇 사용을 치료적 동맹 및 문화적 맥락과 같은 효과적 지원 요인과 비교했다.
• AI 도구가 치료적 가치를 구현하는 방식을 평가하기 위해 치료적 정렬 개념을 도입한다.
• 윤리적 고려사항을 제시하고 챗봇을 의학적 지도로 취급하는 것에 주의한다.

실험 결과

연구 질문

• RQ1 개인들이 자신의 정신 건강 필요에 대한 지원을 구할 때 LLM 챗봇을 어떻게 이해하고 사용하는가?
• RQ2 LLM 챗봇이 치료의 격차를 어떤 방식으로 채우며 그 지원이 문화적으로 어떻게 한정되는가?
• RQ3 AI 챗봇과 확립된 심리치료 가치 사이의 치료적 정렬은 무엇으로 구성되는가?
• RQ4 LLM 챗봇의 정신 건강 관리에서 윤리적이고 효과적인 사용을 보장하기 위해 어떤 설계 권고가 제시되는가?

주요 결과

• LLM 챗봇은 고유한 지원 격차를 채우고 기술의 문화적 한계로 인해 다른 치료를 보완하는 형태로 사용된다.
• 참가자들은 분출, 정서적 지원, 일상 대화, 작업 보조 등 위기 상담 이외의 다양한 역할로 챗봇을 활용한다.
• 일부 사용자는 과거 경험과 대상화 역학의 영향을 받아 챗봇을 대리 치료사나 정신 건강 정보의 출처로 활용한다.
• 참가자들은 챗봇을 접근하기 쉽고 판단이 없는 공간으로 인식하며 즉시 응답이 가능하다는 점이 스스로 치료적일 수 있다.
• 치료적 정렬은 공감, 일치성, 의미 창출과 같은 치료적 가치에 따라 AI 행동을 문화 전반에 걸쳐 정렬하는 프레임워크로 제안된다.