[论文解读] Readying Medical Students for Medical AI: The Need to Embed AI Ethics Education

Thomas P. Quinn, Simon Coghlan|arXiv (Cornell University)|Sep 7, 2021

Artificial Intelligence in Healthcare and Education被引用 13

一句话总结

本文提出了一种嵌入式人工智能伦理教育框架，通过将人工智能相关的伦理问题嵌入现有的生物伦理学或医学伦理学课程中，以渐进式、课程整合的方式，帮助医学生掌握临床医学人工智能伦理方面的专业能力。该框架使医学院能够高效地培养未来医生理解、识别并沟通人工智能在临床实践中风险与益处的知识，从而应对因滥用、误用和不使用人工智能而导致的伦理伤害，且无需彻底改革现有课程体系。

ABSTRACT

Medical students will almost inevitably encounter powerful medical AI systems early in their careers. Yet, contemporary medical education does not adequately equip students with the basic clinical proficiency in medical AI needed to use these tools safely and effectively. Education reform is urgently needed, but not easily implemented, largely due to an already jam-packed medical curricula. In this article, we propose an education reform framework as an effective and efficient solution, which we call the Embedded AI Ethics Education Framework. Unlike other calls for education reform to accommodate AI teaching that are more radical in scope, our framework is modest and incremental. It leverages existing bioethics or medical ethics curricula to develop and deliver content on the ethical issues associated with medical AI, especially the harms of technology misuse, disuse, and abuse that affect the risk-benefit analyses at the heart of healthcare. In doing so, the framework provides a simple tool for going beyond the "What?" and the "Why?" of medical AI ethics education, to answer the "How?", giving universities, course directors, and/or professors a broad road-map for equipping their students with the necessary clinical proficiency in medical AI.

研究动机与目标

• 应对医疗人工智能在医疗保健中日益融合的背景下，医学学生对临床医学人工智能能力日益增长的需求。
• 识别当前医学教育中的缺口：尽管人工智能在医学中已广泛部署，但缺乏结构化、实践性的AI伦理培训。
• 提出一种可行且高效的解决方案——将AI伦理嵌入现有的生物伦理学或医学伦理学课程，而非倡导彻底的课程改革。
• 使医学教育者能够指导学生如何在临床环境中伦理地评估和沟通人工智能的风险与益处。
• 支持医学学生在面对人工智能等新兴技术，特别是在高风险医疗应用中，发展关键的伦理推理能力。

提出的方法

• 提出四步框架：（1）基于医学人工智能中的伦理问题制定新的AI伦理课程内容，（2）将这些内容与现有的生物伦理学或医学伦理学课程内容对齐，（3）培训具备必要技术知识的教师讲授新内容，（4）在传授基础技术医学知识的同时，向学生讲授这些内容。
• 将AI伦理教育整合到已有的医学伦理模块中，避免设立独立的AI课程或大规模课程结构调整。
• 使用真实案例研究来情境化说明诸如AI滥用（过度信任）、不使用（信任不足）和误用（机构实施不当）等伦理问题。
• 聚焦临床AI应用中的伦理风险-收益分析，强调技术滥用、不使用和误用带来的伤害。
• 利用经典伦理框架（如义务论、功利主义、美德伦理和关怀伦理）分析医学中的人工智能困境。
• 强调学生仅需掌握适度的技术知识（无需深入的编程或机器学习专业知识），即可理解并伦理地评估临床实践中的人工智能工具。

实验结果

研究问题

• RQ1 医学院如何在不造成重大干扰的前提下，有效且高效地将临床医学人工智能能力整合到现有课程中？
• RQ2 在医学人工智能中，哪些伦理问题——特别是滥用、不使用和误用——对患者安全和临床决策产生最严重的影响？
• RQ3 现有生物伦理学或医学伦理学课程如何在不需大量新教师培训或课程重构的情况下，适应性地融入AI伦理内容？
• RQ4 医学学生在临床环境中伦理地评估和沟通人工智能时，需要掌握何种程度的技术医学知识？
• RQ5 AI伦理教育在哪些方面能够促进医学学生在面对新型、高风险技术革新时的批判性思维和伦理推理能力？

主要发现

• 嵌入式人工智能伦理教育框架通过利用现有的生物伦理学课程体系，为将AI伦理融入医学教育提供了一条切实可行且渐进的路径。
• 该框架使医学学生能够实现医学人工智能的临床专业能力——并非通过深入的技术培训，而是通过有针对性的伦理推理以及对风险与益处的理解。
• 通过聚焦于滥用、不使用和误用带来的伦理伤害，该框架直接回应了医学实践中核心的收益-风险分析关切。
• 该方法高效，因为它避免了大规模课程改革，而是基于已有的教学结构和内容进行构建。
• 通过针对必要技术医学知识的集中培训，教师可被有效准备，从而确保教学的准确性与一致性。
• 该框架可适配于其他健康专业领域，并支持培养具备伦理素养的从业者，使其能够应对医学中人工智能复杂性的挑战。