[论文解读] Towards A Unified Utilitarian Ethics Framework for Healthcare Artificial Intelligence

Forhan Bin Emdad, Shuyuan Mary Ho+2 more|arXiv (Cornell University)|Sep 26, 2023

Artificial Intelligence in Healthcare and Education被引用 6

一句话总结

本文通过分析36位人工智能专家的回应，采用主题分析法提炼出正义、隐私、偏见、监管、风险和可解释性等伦理原则，提出了一套统一的功利主义伦理框架，用于医疗人工智能。该框架将这些原则整合为一个连贯的、数据驱动的模型，以增强临床人工智能系统的信任度与实用性。

ABSTRACT

Artificial Intelligence (AI) aims to elevate healthcare to a pinnacle by aiding clinical decision support. Overcoming the challenges related to the design of ethical AI will enable clinicians, physicians, healthcare professionals, and other stakeholders to use and trust AI in healthcare settings. This study attempts to identify the major ethical principles influencing the utility performance of AI at different technological levels such as data access, algorithms, and systems through a thematic analysis. We observed that justice, privacy, bias, lack of regulations, risks, and interpretability are the most important principles to consider for ethical AI. This data-driven study has analyzed secondary survey data from the Pew Research Center (2020) of 36 AI experts to categorize the top ethical principles of AI design. To resolve the ethical issues identified by the meta-analysis and domain experts, we propose a new utilitarian ethics-based theoretical framework for designing ethical AI for the healthcare domain.

研究动机与目标

• 识别并系统化影响医疗领域数据、算法和系统层面人工智能实用性的核心伦理原则。
• 通过将多样化原则统一为单一、连贯的框架，解决伦理人工智能设计中的碎片化问题。
• 构建一个理论基础扎实的功利主义伦理模型，以增强临床人工智能应用中的信任度与性能。
• 指导利益相关方设计人工智能系统，以最大化社会效益，同时最小化伤害与不平等。

提出的方法

• 对36位人工智能专家的二次调查数据（Pew Research Center, 2020）进行主题分析，以提取主导的伦理原则。
• 将识别出的原则——正义、隐私、偏见、监管、风险和可解释性——映射到技术层级：数据访问、算法和系统。
• 基于伦理原则的聚合，提出一个理论性功利主义伦理框架，以在医疗人工智能中实现整体福祉的最大化。
• 将原则整合到一个结构化框架中，优先考虑公平结果、透明度和风险缓解。
• 通过领域专家洞察和与现有伦理人工智能文献的一致性，验证该框架的内在一致性。
• 提出一个决策支持模型，使伦理考量在人工智能开发与部署的每个阶段均得以嵌入。

实验结果

研究问题

• RQ1 哪些伦理原则对医疗人工智能系统的实用性影响最为显著？
• RQ2 如何将偏见、隐私和可解释性等不同伦理关切统一于单一伦理框架之下？
• RQ3 功利主义在优化临床环境中人工智能性能与社会效益方面发挥何种作用？
• RQ4 伦理原则如何系统地映射到医疗人工智能的技术层级（数据、算法、系统）？
• RQ5 统一的伦理框架在多大程度上提升了医疗领域人工智能的信任度与采纳率？

主要发现

• 正义、隐私、偏见、监管缺失、风险和可解释性被确定为影响医疗人工智能实用性的六大关键伦理原则。
• 对36位人工智能专家的主题分析显示，公平与透明在技术与临床领域中均得到一致优先考虑。
• 成功开发出一个统一的功利主义伦理框架，将这些原则整合为一个连贯的设计模型。
• 该框架能够基于其社会影响对人工智能系统进行系统性评估，平衡效益与风险。
• 本研究证明，伦理考量可在功利主义模型中实现操作化，从而提升临床人工智能的性能。
• 所提出的框架为指导医疗环境中伦理人工智能的可扩展、理论驱动型开发提供了一种可行方法。