[論文レビュー] Benefits and Harms of Large Language Models in Digital Mental Health

Munmun De Choudhury, Sachin R. Pendse+1 more|arXiv (Cornell University)|Nov 7, 2023

Digital Mental Health Interventions被引用数 8

ひとこと要約

この論文は、デジタルメンタルヘルスにおける大規模言語モデルの機会とリスクを、ケア seeking、コミュニティケア、制度的ケア、社会的ケアの生態系に基づく生態学的フレームワークで分析している。

ABSTRACT

The past decade has been transformative for mental health research and practice. The ability to harness large repositories of data, whether from electronic health records (EHR), mobile devices, or social media, has revealed a potential for valuable insights into patient experiences, promising early, proactive interventions, as well as personalized treatment plans. Recent developments in generative artificial intelligence, particularly large language models (LLMs), show promise in leading digital mental health to uncharted territory. Patients are arriving at doctors' appointments with information sourced from chatbots, state-of-the-art LLMs are being incorporated in medical software and EHR systems, and chatbots from an ever-increasing number of startups promise to serve as AI companions, friends, and partners. This article presents contemporary perspectives on the opportunities and risks posed by LLMs in the design, development, and implementation of digital mental health tools. We adopt an ecological framework and draw on the affordances offered by LLMs to discuss four application areas -- care-seeking behaviors from individuals in need of care, community care provision, institutional and medical care provision, and larger care ecologies at the societal level. We engage in a thoughtful consideration of whether and how LLM-based technologies could or should be employed for enhancing mental health. The benefits and harms our article surfaces could serve to help shape future research, advocacy, and regulatory efforts focused on creating more responsible, user-friendly, equitable, and secure LLM-based tools for mental health treatment and intervention.

研究の動機と目的

• デジタルメンタルヘルスにおけるLLMsを評価するための生態学的フレームワークを導入する。
• 複数の生態学的レベルでケアに関連するLLMsの可能性を特定する。
• 4つの適用領域：careseekers、crisis response、clinical decision support、telehealth futures における潜在的な利益と害を論じる。
• 倫理、安全性、平等性の考慮を強調し、LLMsの責任ある展開を形作る。

提案手法

• Insel の4つの適用文脈と4段階の公衆衛生モデルに基づく生態学的・社会生態的フレームワークを採用する。
• LLMの適合性を4つの生態学的レベルにマッピングし、利益と害を整理する。
• LLMsの心理療法、危機対応、臨床意思決定支援に関する文献からエビデンスと事例を統合する。
• 責任ある設計と使用を informing する実世界の事例と規制上の考慮事項を論じる。

Figure 1: An ecological conceptualization of the use of large language models in digital mental health, based on the Social Ecological Model [ 34 ] .

実験結果

リサーチクエスチョン

• RQ1 デジタルメンタルヘルスにおける個人、介護者、制度、社会の各レベルでLLMsの潜在的な利益と害は何か？
• RQ2 テレメンタルヘルス、危機対応、臨床意思決定支援、心理療法において、リスクを緩和しつつケアを改善するためにLLMsの適合性をどのように活用または制約できるか？
• RQ3 LLM有効化メンタルヘルスツールで生じる倫理的・安全性・公平性の懸念は何か、規制やガイドラインはそれにどう対処できるか？

主な発見

• LLMsは心理療法と自己主導の介入の提供範囲とアクセシビリティを向上させる。
• LLMsはケアの個別化とデータ駆動の洞察を可能にする一方で、治療的同盟とデータプライバシーに関する懸念を生む。
• 危機対応の適用は迅速な評価と文化的に適合したガイダンスの提供で利点があるが、不適切な出力やデータ悪用のリスクがある。
• 臨床意思決定支援は膨大な医療知識を統合し鑑別診断を支援できるが、誤情報の拡散やニュアンスのある精神健康文脈の見落としの可能性がある。
• 自動意思決定とデータガバナンスには重要な倫理的・法的・公平性の課題があり、慎重なガバナンスと安全策が必要である。