[论文解读] Applying Artificial Intelligence to Clinical Decision Support in Mental Health: What Have We Learned?

Grace Golden, Christina Popescu+6 more|arXiv (Cornell University)|Mar 6, 2023

Artificial Intelligence in Healthcare and Education被引用 7

一句话总结

本文对Aifred Health——一种用于重度抑郁障碍的AI驱动临床决策支持系统（AI-CDSS）——进行了案例研究，展示了机器学习模型如何指导治疗选择与管理。研究识别了关键的开发与实施挑战，并提出了基于证据的建议，以构建可信、临床实用的AI-CDSS，使其能够无缝融入心理健康工作流程。

ABSTRACT

Clinical decision support systems (CDSS) augmented with artificial intelligence (AI) models are emerging as potentially valuable tools in healthcare. Despite their promise, the development and implementation of these systems typically encounter several barriers, hindering the potential for widespread adoption. Here we present a case study of a recently developed AI-CDSS, Aifred Health, aimed at supporting the selection and management of treatment in major depressive disorder. We consider both the principles espoused during development and testing of this AI-CDSS, as well as the practical solutions developed to facilitate implementation. We also propose recommendations to consider throughout the building, validation, training, and implementation process of an AI-CDSS. These recommendations include: identifying the key problem, selecting the type of machine learning approach based on this problem, determining the type of data required, determining the format required for a CDSS to provide clinical utility, gathering physician and patient feedback, and validating the tool across multiple settings. Finally, we explore the potential benefits of widespread adoption of these systems, while balancing these against implementation challenges such as ensuring systems do not disrupt the clinical workflow, and designing systems in a manner that engenders trust on the part of end users.

研究动机与目标

• 评估AI-CDSS在真实临床环境中用于重度抑郁障碍的开发与实施。
• 识别在心理健康领域部署AI-CDSS的障碍，包括工作流程中断和用户信任问题。
• 为设计、验证和实施心理健康护理中的AI-CDSS提供可操作的建议。
• 通过多学科反馈和跨环境验证，评估AI-CDSS的临床实用性。
• 在临床实践中平衡AI增强的益处与透明度、可用性和伦理整合的需求。

提出的方法

• 本研究分析了Aifred Health的设计与部署，该系统是专为重度抑郁障碍治疗决策而定制的AI-CDSS。
• 该系统利用基于临床数据和患者报告数据训练的机器学习模型，推荐治疗方案并监测治疗结果。
• 开发过程遵循以用户为中心的设计原则，在迭代测试中整合了临床医生和患者的反馈。
• 该工具在多种临床环境中进行了验证，以确保其泛化能力和稳健性。
• 实施策略侧重于最小化工作流程中断，并通过可解释AI组件增强临床医生的信任。
• 该框架强调数据类型选择、模型可解释性以及CDSS界面设计，以实现最佳临床实用性。

实验结果

研究问题

• RQ1 在心理健康环境中开发与实施AI-CDSS的关键挑战是什么？
• RQ2 如何设计AI-CDSS以保持临床工作流程的整合与临床医生的信任？
• RQ3 临床医生和患者反馈在塑造高效AI-CDSS设计中发挥什么作用？
• RQ4 如何在多种临床环境中对AI-CDSS进行验证，以确保其可靠性和泛化能力？
• RQ5 哪些设计原则对于创建临床实用、可信且可扩展的心理健康AI-CDSS至关重要？

主要发现

• 在心理健康领域开发AI-CDSS需要高度重视临床工作流程整合，以避免增加临床提供者的负担。
• 在开发过程中收集临床医生和患者的反馈，可显著提升工具的可用性和接受度。
• 在多种临床环境中进行验证可增强AI-CDSS性能的可靠性和泛化能力。
• 临床医生对AI工具的信任取决于透明度、可解释性以及一致的性能表现，而不仅仅是预测准确性。
• 最有效的AI-CDSS是那些通过持续的终端用户输入进行设计的系统，从而确保与真实临床需求保持一致。
• 尽管技术前景广阔，但系统复杂性与互操作性不足等实施障碍，仍是阻碍其广泛采用的主要原因。