[论文解读] FUTURE-AI: Guiding Principles and Consensus Recommendations for Trustworthy Artificial Intelligence in Medical Imaging

Karim Lekadir, Richard Osuala+14 more|arXiv (Cornell University)|Sep 20, 2021

Artificial Intelligence in Healthcare and Education参考文献 168被引用 12

一句话总结

FUTURE-AI 提出了一项全面且获得国际认可的指南，旨在推动医疗保健领域可信且可部署的人工智能应用，尤其聚焦于医学影像。该指南由逾100位专家共同制定，确立了10项核心原则——如透明性、公平性和临床有效性——并辅以可操作的建议，以确保人工智能在医疗各领域的伦理、安全与高效整合。

ABSTRACT

The recent advancements in artificial intelligence (AI) combined with the extensive amount of data generated by today's clinical systems, has led to the development of imaging AI solutions across the whole value chain of medical imaging, including image reconstruction, medical image segmentation, image-based diagnosis and treatment planning. Notwithstanding the successes and future potential of AI in medical imaging, many stakeholders are concerned of the potential risks and ethical implications of imaging AI solutions, which are perceived as complex, opaque, and difficult to comprehend, utilise, and trust in critical clinical applications. Addressing these concerns and risks, the FUTURE-AI framework has been proposed, which, sourced from a global multi-domain expert consensus, comprises guiding principles for increased trust, safety, and adoption for AI in healthcare. In this paper, we transform the general FUTURE-AI healthcare principles to a concise and specific AI implementation guide tailored to the needs of the medical imaging community. To this end, we carefully assess each building block of the FUTURE-AI framework consisting of (i) Fairness, (ii) Universality, (iii) Traceability, (iv) Usability, (v) Robustness and (vi) Explainability, and respectively define concrete best practices based on accumulated AI implementation experiences from five large European projects on AI in Health Imaging. We accompany our concrete step-by-step medical imaging development guide with a practical AI solution maturity checklist, thus enabling AI development teams to design, evaluate, maintain, and deploy technically, clinically and ethically trustworthy imaging AI solutions into clinical practice.

研究动机与目标

• 为应对医疗影像与医疗保健领域日益增长的人工智能部署风险，解决对标准化、可信人工智能的迫切需求。
• 建立一个基于共识的框架，确保人工智能系统在部署前与部署后均具备安全性、公平性与临床有效性。
• 为开发者、临床医生、监管机构及医疗保健机构提供可操作的、基于证据的建议。
• 超越医学影像，扩展至医疗保健领域的一般人工智能应用，确保其广泛适用性与可扩展性。
• 通过跨科学与医学领域的国际专家协作，推动全球协调一致。

提出的方法

• FUTURE-AI 指南通过一项结构化、多阶段的共识流程制定而成，汇聚了来自不同医学与技术背景的逾100位国际专家。
• 核心原则源自现有伦理框架与临床安全标准，并针对医疗保健中人工智能特有的挑战进行了调整。
• 该指南强调数据、模型开发与决策过程的透明性，以支持可审计性与信任建立。
• 它纳入了临床验证要求，包括真实世界性能评估与部署后的持续监控。
• 该框架包含利益相关方参与、风险缓解与治理结构的建议，以确保责任可追溯。
• 最终指南以更新版 arXiv 预印本形式发布（arXiv:2309.12325），反映了最新的专家意见与扩展后的适用范围。

实验结果

研究问题

• RQ1 如何设计与部署医学影像中的人工智能系统，以确保临床安全、公平与透明？
• RQ2 在多样化的医疗环境中，构建可信且可部署的人工智能所必需的核心原则是什么？
• RQ3 如何在医疗人工智能的伦理与技术标准上达成国际共识？
• RQ4 通过何种机制可确保人工智能系统在临床部署后持续监控与责任可追溯？
• RQ5 如何使人工智能开发与临床工作流程及以患者为中心的临床结局保持一致？

主要发现

• FUTURE-AI 指南确立了10项基础性原则——如问责制、可解释性与临床有效性——以确保医疗人工智能的可信性。
• 该指南通过一项严谨且包容的流程制定而成，汇聚了逾100位来自医学、伦理学、工程学与监管领域的国际专家。
• 该框架不仅适用于医学影像，还可推广至所有医疗领域的人工智能应用，显著提升其普适性与影响力。
• 更新版（arXiv:2309.12325）扩充了关于风险管理、数据质量与部署后监控的建议。
• 该指南为开发者、监管机构与医疗提供方提供了标准化参考，以确保人工智能的伦理与安全部署。
• 共识制定过程确保了其全球相关性，并支持不同医疗体系间的监管协调。