[論文レビュー] The Typing Cure: Experiences with Large Language Model Chatbots for Mental Health Support

Inhwa Song, Sachin R. Pendse+2 more|arXiv (Cornell University)|Jan 25, 2024

Mental Health via Writing被引用数 12

ひとこと要約

本研究は、21人の多様な個人が大規模言語モデルのチャットボットをメンタルヘルス支援にどのように用いるかを分析し、治療的アラインメントを提唱するとともに、メンタルヘルスケアにおける倫理的に適合したAIツールの設計提案を提供する。

ABSTRACT

People experiencing severe distress increasingly use Large Language Model (LLM) chatbots as mental health support tools. Discussions on social media have described how engagements were lifesaving for some, but evidence suggests that general-purpose LLM chatbots also have notable risks that could endanger the welfare of users if not designed responsibly. In this study, we investigate the lived experiences of people who have used LLM chatbots for mental health support. We build on interviews with 21 individuals from globally diverse backgrounds to analyze how users create unique support roles for their chatbots, fill in gaps in everyday care, and navigate associated cultural limitations when seeking support from chatbots. We ground our analysis in psychotherapy literature around effective support, and introduce the concept of therapeutic alignment, or aligning AI with therapeutic values for mental health contexts. Our study offers recommendations for how designers can approach the ethical and effective use of LLM chatbots and other AI mental health support tools in mental health care.

研究の動機と目的

• 多様な背景を持つ個人が、LLMチャットボットをメンタルヘルス支援にどのように用いているかを理解する。
• 伴侶と治療ツールとしてのLLMチャットボットの役割と限界を特定する。
• 心理療法理論に基づいて発見を裏付け、メンタルヘルス領域でのAIの治療的アラインメントを定義する。
• AIメンタルヘルスツールを治療的価値と整合させる設計提案を行う。

提案手法

• LLMチャットボットをメンタルヘルス支援に用いた多様な背景を持つ21名の参加者を対象に半構造化インタビューを実施する。
• オンラインコミュニティを横断する目的意図的およびスノーボール・サンプリングを用いて参加者を募集する。
• オープン・コーディングと主題分析を用いた帰納的質的分析を適用して、テーマを特定する。
• 治療的連携や文化的文脈などの効果的な支援要因とチャットボット利用を比較するため、分析を心理療法の文献に基づかせる。
• AIツールが治療的価値を体現する方法を評価するために治療的アラインメントの概念を導入する。
• 倫理的配慮を提供し、チャットボットを医療指導とみなすことへの慎重さを促す。

実験結果

リサーチクエスチョン

• RQ1 人々は自分のメンタルヘルスのニーズに対する支援を求める際、LLMチャットボットをどのように理解し、どのように活用しているか。
• RQ2 LLMチャットボットはケアのギャップをどのように埋め、支援はどのように文化的に限定されているのか。
• RQ3 AIチャットボットと確立された心理療法の価値との間における治療的アラインメントとは何か。
• RQ4 メンタルヘルスケアにおける倫理的で効果的なLLMチャットボットの使用を確実にするための設計提案は何か。

主な発見

• LLMチャットボットは独自の支援ギャップを埋め、技術の文化的制約のため他のケアの補完として使用される。
• 参加者は感情の吐露、感情的サポート、日常的な会話、タスク補助など、危機時のガイダンスだけでなく幅広い役割のためにチャットボットを利用している。
• 過去の経験と転移力学の影響を受け、代理セラピストやメンタルヘルス情報源としてチャットボットと関わる人もいる。
• 参加者はチャットボットをアクセスしやすく非難しないスペースと捉え、即時応答を得られること自体が治療的になり得ると感じる。
• 治療的アラインメントは、共感、整合性、意味づくりといった治療的価値を文化を超えてAIの振る舞いと整合させる枠組みとして提案されている。