[论文解读] Generative Artificial Intelligence in Healthcare: Ethical Considerations and Assessment Checklist

Yilin Ning, Salinelat Teixayavong+15 more|arXiv (Cornell University)|Nov 2, 2023

Artificial Intelligence in Healthcare and Education被引用 7

一句话总结

本文提出了一套全面的生成式人工智能（GenAI）在医疗保健领域中的伦理评估清单，该清单基于对现有伦理讨论的范围综述而制定。该清单可实现透明化记录，并整合至同行评审和产品开发流程中，弥补了从文本生成到合成数据创建等各类GenAI应用中伦理监管的空白。

ABSTRACT

The widespread use of ChatGPT and other emerging technology powered by generative artificial intelligence (GenAI) has drawn much attention to potential ethical issues, especially in high-stakes applications such as healthcare, but ethical discussions are yet to translate into operationalisable solutions. Furthermore, ongoing ethical discussions often neglect other types of GenAI that have been used to synthesise data (e.g., images) for research and practical purposes, which resolved some ethical issues and exposed others. We conduct a scoping review of ethical discussions on GenAI in healthcare to comprehensively analyse gaps in the current research, and further propose to reduce the gaps by developing a checklist for comprehensive assessment and transparent documentation of ethical discussions in GenAI research. The checklist can be readily integrated into the current peer review and publication system to enhance GenAI research, and may be used for ethics-related disclosures for GenAI-powered products, healthcare applications of such products and beyond.

研究动机与目标

• 识别并系统化整理与医疗保健领域生成式人工智能相关的伦理挑战，涵盖大型语言模型等新兴应用以及合成数据生成等成熟应用。
• 弥合理论性伦理讨论与GenAI研究和部署中可操作、可执行解决方案之间的差距。
• 开发一种标准化、实用的清单，用于记录GenAI研究和应用中的伦理考量。
• 支持与现有同行评审和监管流程整合，以提升问责制和透明度。
• 将伦理监管范围从基于文本的GenAI扩展至包括图像生成等数据合成应用，适用于科研和临床用途。

提出的方法

• 开展对医疗保健领域生成式人工智能伦理讨论的范围综述，以梳理现有关切并识别主题性空白。
• 将伦理问题按领域分类，如隐私、偏见、透明度、问责制和数据完整性，覆盖不同GenAI应用。
• 基于识别出的伦理领域设计结构化清单，适用于研究报告和产品开发。
• 使清单与现有研究和临床评审框架保持一致，确保与同行评审和监管标准兼容。
• 将多样化的GenAI应用场景（包括大型语言模型和合成数据生成）纳入清单的适用范围。
• 提出将该清单作为学术出版和医疗产品评估中强制性伦理披露的工具。

实验结果

研究问题

• RQ1 在不同类型的GenAI应用中，与医疗保健领域生成式人工智能相关的关键伦理挑战是什么？
• RQ2 当前GenAI研究中的伦理讨论为何难以转化为可操作、可执行的实践？
• RQ3 使用GenAI生成合成医疗数据的伦理影响是什么？与基于文本的GenAI相比有何不同？
• RQ4 标准化评估工具如何提升GenAI研究和临床部署中的透明度与问责制？
• RQ5 该提议的清单在哪些方面可整合进现有的同行评审和监管体系中，以用于医疗AI？

主要发现

• 范围综述揭示了伦理话语中的显著空白，特别是关于合成数据生成方面：该技术虽能解决部分问题（如数据稀缺），但也引入了新风险（如偏见传播）。
• GenAI中的伦理挑战跨越多个领域，包括数据隐私、算法偏见、模型可解释性以及决策问责制。
• 所提出的清单为记录GenAI研究和应用全周期中的伦理考量提供了一个结构化框架。
• 该清单设计用于整合进同行评审和出版流程，使学术研究中的系统性伦理披露成为可能。
• 该工具不仅支持研究透明度，也支持GenAI驱动的医疗产品在开发和部署过程中的透明度。
• 该清单同时涵盖新兴GenAI应用（如LLMs）和成熟应用（如合成图像生成），确保广泛适用性。