[论文解读] Initial Risk Probing and Feasibility Testing of Glow: a Generative AI-Powered Dialectical Behavior Therapy Skills Coach for Substance Use Recovery and HIV Prevention

Liying Wang, Madison Lee+7 more|arXiv (Cornell University)|Feb 8, 2026

Digital Mental Health Interventions被引用 0

一句话总结

论文评估 Glow，一款由 GenAI 驱动的 DBT 技能教练，用于 HIV 风险降低与物质使用恢复，采用用户驱动的对抗性测试在 37 个风险探针上评估安全性。它识别出脆弱性和错误信息，并在临床试验前讨论缓解需求。

ABSTRACT

Background: HIV and substance use represent interacting epidemics with shared psychological drivers - impulsivity and maladaptive coping. Dialectical behavior therapy (DBT) targets these mechanisms but faces scalability challenges. Generative artificial intelligence (GenAI) offers potential for delivering personalized DBT coaching at scale, yet rapid development has outpaced safety infrastructure. Methods: We developed Glow, a GenAI-powered DBT skills coach delivering chain and solution analysis for individuals at risk for HIV and substance use. In partnership with a Los Angeles community health organization, we conducted usability testing with clinical staff (n=6) and individuals with lived experience (n=28). Using the Helpful, Honest, and Harmless (HHH) framework, we employed user-driven adversarial testing wherein participants identified target behaviors and generated contextually realistic risk probes. We evaluated safety performance across 37 risk probe interactions. Results: Glow appropriately handled 73% of risk probes, but performance varied by agent. The solution analysis agent demonstrated 90% appropriate handling versus 44% for the chain analysis agent. Safety failures clustered around encouraging substance use and normalizing harmful behaviors. The chain analysis agent fell into an "empathy trap," providing validation that reinforced maladaptive beliefs. Additionally, 27 instances of DBT skill misinformation were identified. Conclusions: This study provides the first systematic safety evaluation of GenAI-delivered DBT coaching for HIV and substance use risk reduction. Findings reveal vulnerabilities requiring mitigation before clinical trials. The HHH framework and user-driven adversarial testing offer replicable methods for evaluating GenAI mental health interventions.

研究动机与目标

• 通过生成式 AI 实现可扩展、个性化的 DBT 指导以用于 HIV 预防与物质使用恢复。
• 解决 GenAI 交付的心理健康干预措施中的安全性与可靠性问题。
• 提供与社区伙伴协作的系统性安全测试框架。
• 在试验前识别具体的安全脆弱性与错误信息风险，以指导缓解措施。

提出的方法

• 开发 Glow，一款由 GenAI 驱动的 DBT 技能教练，提供链路分析与解决方案分析。
• 与洛杉矶一所社区健康组织合作，进行临床医生与有实际经历者的可用性测试。
• 应用 Helpful, Honest, and Harmless (HHH) 框架和用户驱动的对抗性测试以诱发具情境现实性的风险探针。
• 在 37 次风险探针互动中评估安全性能。
• 比较代理之间的性能：解决方案分析 vs 链路分析。
• 记录安全失败与错误信息以指导缓解措施。

实验结果

研究问题

• RQ1 Glow 能否在 HIV 预防与物质使用恢复的 DBT 指导框架中安全地处理具情境现实性的风险探针？
• RQ2 GenAI 提供的 DBT 指导中出现哪些安全脆弱性与错误信息风险，不同代理在风险探针上的表现如何？
• RQ3 什么方法框架最能支持 GenAI 心理健康干预的系统性安全评估？
• RQ4 在进入临床试验前需要哪些缓解步骤？
• RQ5 利益相关者的协作如何影响可用性与安全性结果？

主要发现

• Glow 在总体上对 73% 的风险探针处理得当，代理之间表现有差异。
• 解决方案分析代理在恰当处理方面达到 90%，而链路分析代理为 44%。
• 安全性失误集中在鼓励物质使用与使有害行为常态化。
• 链路分析代理存在“同理心陷阱”，通过提供验证来强化了不良适应性信念。
• 测试过程中共识别出 27 例关于 DBT 技能的错误信息。