[论文解读] Artificial Intelligence in Healthcare: Lost In Translation?

Vince I. Madai, David Higgins|arXiv (Cornell University)|Jul 28, 2021

Artificial Intelligence in Healthcare and Education参考文献 38被引用 7

一句话总结

本文识别了将人工智能应用于医疗保健从研究转化为临床实践过程中的关键障碍，重点关注精准医学、可重复科学、数据质量、因果关系及产品开发。文章提出了结构化的改进措施——如严格的验证、因果建模和监管一致性——以弥合AI概念验证研究与临床可部署、经验证的医疗设备之间的差距。

ABSTRACT

Artificial intelligence (AI) in healthcare is a potentially revolutionary tool to achieve improved healthcare outcomes while reducing overall health costs. While many exploratory results hit the headlines in recent years there are only few certified and even fewer clinically validated products available in the clinical setting. This is a clear indication of failing translation due to shortcomings of the current approach to AI in healthcare. In this work, we highlight the major areas, where we observe current challenges for translation in AI in healthcare, namely precision medicine, reproducible science, data issues and algorithms, causality, and product development. For each field, we outline possible solutions for these challenges. Our work will lead to improved translation of AI in healthcare products into the clinical setting

研究动机与目标

• 诊断人工智能在医疗领域研究与临床实施之间持续存在的差距的根本原因。
• 突出人工智能转化中被低估的挑战，特别是在精准医学和临床验证方面。
• 提出可操作的解决方案，以改善人工智能驱动医疗应用中的可重复性、数据质量和因果推理。
• 倡导人工智能开发与医疗设备监管标准之间更强的对齐，以确保安全性和有效性。
• 通过结构化、基于证据的路径，指导研究人员和开发者打造临床可行的人工智能产品。

提出的方法

• 从转化失败的视角分析当前的人工智能医疗研究，识别出五个核心关注领域：精准医学、可重复科学、数据与算法、因果关系以及产品开发。
• 提出方法论改进，如因果推断框架（例如do-演算、潜在结果模型），以超越相关性，实现可操作的医学洞察。
• 建议在人工智能研究中采用标准化、透明且可重复的工作流程，包括研究方案的预先注册和开放数据共享。
• 强调需要开展具有足够统计效能和预设终点的确认性临床验证研究，其模式应仿照传统医疗设备的开发流程。
• 引入“人工智能作为精准医学工具”的概念，并倡导针对亚组的验证，以避免产生误导性的总体人群结果。
• 呼吁与FDA提出的SaMD（医疗器械软件）指南等框架保持监管一致性，以确保安全性和可扩展性。

实验结果

研究问题

• RQ1 尽管人工智能在医疗领域的研究已展现出强大的概念验证结果，为何大多数研究仍无法转化为临床应用？
• RQ2 人工智能驱动的精准医学项目应如何设计，以确保在患者亚组中具备足够的统计效能和临床有效性？
• RQ3 因果关系在提升人工智能预测在医疗领域中的可靠性与临床相关性方面发挥什么作用？
• RQ4 如何系统性地提升数据质量和算法鲁棒性，以支持可重复且可泛化的AI模型？
• RQ5 需要哪些结构性和方法论上的变革，才能使人工智能开发与医疗设备标准和监管路径保持一致？

主要发现

• 当前的人工智能医疗研发流程严重偏向探索性概念验证研究，缺乏后续的确认性验证，导致临床转化失败率极高。
• 许多人工智能医疗项目本质上是精准医学项目，但其开发过程中缺乏临床采纳所必需的亚组严格验证。
• 因果人工智能方法（如do-演算、潜在结果建模）对于超越相关性、实现临床决策中可操作且可解释的预测至关重要。
• 数据质量问题——尤其是缺失数据、偏差和分布漂移——显著削弱了模型在不同机构之间的泛化能力和可重复性。
• 人工智能医疗的产品开发因未遵循医疗设备标准（包括临床前验证、监管合规性及长期监测）而受到阻碍。
• 缺乏标准化、透明且预先注册的研究方案，导致可重复性低，并削弱了对人工智能研究成果的信任。