[论文解读] Fair Machine Learning in Healthcare: A Review

Qizhang Feng, Mengnan Du+2 more|arXiv (Cornell University)|Jun 29, 2022

Health Systems, Economic Evaluations, Quality of Life被引用 12

一句话总结

本综述通过运用分配正义原则，将公平性问题划分为公平分配与公平表现两类，提出了一套统一的医疗人工智能公平性框架。系统性地回顾了公平性度量指标、机器学习生命周期中各阶段的偏见来源及缓解策略，指出了在医疗场景下评估公平性方法的不足，并呼吁构建整合的伦理-AI框架。

ABSTRACT

The digitization of healthcare data coupled with advances in computational capabilities has propelled the adoption of machine learning (ML) in healthcare. However, these methods can perpetuate or even exacerbate existing disparities, leading to fairness concerns such as the unequal distribution of resources and diagnostic inaccuracies among different demographic groups. Addressing these fairness problem is paramount to prevent further entrenchment of social injustices. In this survey, we analyze the intersection of fairness in machine learning and healthcare disparities. We adopt a framework based on the principles of distributive justice to categorize fairness concerns into two distinct classes: equal allocation and equal performance. We provide a critical review of the associated fairness metrics from a machine learning standpoint and examine biases and mitigation strategies across the stages of the ML lifecycle, discussing the relationship between biases and their countermeasures. The paper concludes with a discussion on the pressing challenges that remain unaddressed in ensuring fairness in healthcare ML, and proposes several new research directions that hold promise for developing ethical and equitable ML applications in healthcare.

研究动机与目标

• 弥合医疗机器学习中伦理公平性关切与技术公平性方法之间的关键差距。
• 基于分配正义原则，将医疗公平性问题划分为公平分配与公平表现两类。
• 系统性地回顾从数据、模型到部署阶段的公平性度量指标与缓解策略。
• 强调在应用于医疗特定度量指标时，对公平性缓解方法缺乏关键性评估。
• 提出未来研究方向，以推动开发兼具伦理、公平且临床可行的医疗人工智能。

提出的方法

• 采用分配正义框架，将公平性问题划分为公平分配（资源分配）与公平表现（跨群体预测准确性）两类。
• 将公平性度量指标分类为衡量分配公平性的指标（如人口均等性）与衡量表现公平性的指标（如等效机会、等化奇偶性）。
• 将偏见映射至机器学习生命周期的三个阶段：数据收集、模型开发与模型部署。
• 回顾预处理、在处理与后处理等公平性缓解技术，特别关注其在医疗领域的应用。
• 分析包括可解释性、隐私性与鲁棒性在内的伦理维度，及其与公平性的相互作用。
• 指出多模态医疗AI中的新兴挑战，即偏见跨越多种数据类型（如图像、文本、基因组数据），并呼吁发展具备公平性意识的多模态建模方法。

实验结果

研究问题

• RQ1 如何借助分配正义等伦理原则，系统性地对医疗机器学习中的公平性进行分类？
• RQ2 在机器学习生命周期中，适用于医疗数据的关键公平性度量指标与缓解策略有哪些？
• RQ3 数据收集、模型训练与部署中的偏见如何共同影响临床机器学习系统的公平性结果？
• RQ4 公平性、可解释性、隐私性与鲁棒性之间存在何种相互依赖关系与权衡？
• RQ5 为弥合理论公平性方法与现实医疗应用之间的差距，需要哪些新的研究方向？

主要发现

• 医疗机器学习中的公平性应从两个视角理解：即对各类人群的公平受益分配与公平表现。
• 现有的机器学习公平性度量指标可映射至上述两类，其中基于表现的指标（如等效机会、等化奇偶性）在临床预测中尤为重要。
• 偏见贯穿机器学习生命周期的各个阶段——数据收集、模型开发与部署——需在每个阶段实施针对性的缓解策略。
• 在应用于医疗特定公平性度量时，对公平性缓解方法有效性的评估存在显著缺口，尤其在真实临床环境中。
• 多模态医疗AI系统因模态特异性偏见面临更高的公平性挑战，但目前极少方法能解决多模态数据融合中的公平性问题。
• 公平性、可解释性、隐私性与鲁棒性之间的相互作用尚未得到充分探索，存在潜在权衡（如公平性与隐私性）与协同效应（如鲁棒性与公平性），亟需整合的伦理-AI框架。