[论文解读] The Case for Globalizing Fairness: A Mixed Methods Study on Colonialism, AI, and Health in Africa

Mercy Asiedu, Awa Dieng+8 more|arXiv (Cornell University)|Mar 5, 2024

Viral Infections and Outbreaks Research被引用 4

一句话总结

本项混合方法研究探讨了殖民主义如何影响非洲人工智能驱动医疗保健中的公平性感知，结合了范围综述与对672名普通参与者及28名专家的调查。研究发现，尽管专家将殖民历史与人工智能偏见联系起来，但大多数普通民众并未直接认识到这种联系，凸显了认知上的显著差距，并呼吁在全球医疗人工智能发展中采用植根于语境、哲学包容性的公平性框架。

ABSTRACT

With growing application of machine learning (ML) technologies in healthcare, there have been calls for developing techniques to understand and mitigate biases these systems may exhibit. Fair-ness considerations in the development of ML-based solutions for health have particular implications for Africa, which already faces inequitable power imbalances between the Global North and South.This paper seeks to explore fairness for global health, with Africa as a case study. We conduct a scoping review to propose axes of disparities for fairness consideration in the African context and delineate where they may come into play in different ML-enabled medical modalities. We then conduct qualitative research studies with 672 general population study participants and 28 experts inML, health, and policy focused on Africa to obtain corroborative evidence on the proposed axes of disparities. Our analysis focuses on colonialism as the attribute of interest and examines the interplay between artificial intelligence (AI), health, and colonialism. Among the pre-identified attributes, we found that colonial history, country of origin, and national income level were specific axes of disparities that participants believed would cause an AI system to be biased.However, there was also divergence of opinion between experts and general population participants. Whereas experts generally expressed a shared view about the relevance of colonial history for the development and implementation of AI technologies in Africa, the majority of the general population participants surveyed did not think there was a direct link between AI and colonialism. Based on these findings, we provide practical recommendations for developing fairness-aware ML solutions for health in Africa.

研究动机与目标

• 探讨殖民主义如何影响非洲医疗保健语境中人工智能应用的公平性感知。
• 识别并验证超越西方中心模型、与非洲全球健康人工智能公平性相关的差异轴线。
• 弥合专家与公众在殖民主义遗产如何塑造非洲医疗系统人工智能公平性方面认知上的差距。
• 为低收入和中等收入非洲国家的人工智能公平性发展提出切实可行、语境契合的建议。
• 倡导在算法公平性中建立更广泛的哲学基础，纳入非西方的正义与规范观念。

提出的方法

• 开展范围综述，以识别非洲医疗语境下人工智能公平性潜在的差异轴线。
• 在多个非洲国家对672名普通民众进行调查，以评估公众对人工智能与殖民主义的认知。
• 对28名专注于非洲的人工智能、医疗与政策领域的专家进行深度访谈（IDIs），以收集专业视角。
• 使用主题分析法分析定性数据，识别关于殖民主义、人工智能与公平性的重复主题。
• 通过混合方法三角测量比较专家与公众的认知，并验证所提出的差异轴线。
• 探讨研究发现对人工智能全球健康领域偏差缓解技术与政策制定的影响。

实验结果

研究问题

• RQ1 非洲普通民众如何感知殖民主义与医疗人工智能之间的关系？
• RQ2 专家与公众识别出哪些差异轴线与非洲医疗系统的人工智能公平性相关？
• RQ3 专家在多大程度上将殖民历史与非洲医疗保健中人工智能部署的当前不平等联系起来？
• RQ4 在人工智能公平性语境下，专家与普通民众对殖民主义遗产的认知差异体现在何处？
• RQ5 在考虑历史与结构性不平等问题的前提下，针对非洲医疗语境下开发公平性人工智能系统，可提出哪些切实可行的建议？

主要发现

• 专家普遍认为，殖民历史是影响非洲医疗系统人工智能公平性的一个关键差异轴线。
• 大多数普通民众（超过50%）未察觉殖民主义与人工智能偏见之间存在直接联系，表明存在认知差距。
• 参与者指出，国籍与国家收入水平是影响非洲医疗语境下人工智能公平性的显著差异轴线。
• 参与者强调，数据所有权、本地参与以及公平合作在人工智能开发中至关重要，以确保公平性。
• 需要采用更广泛的哲学方法来构建算法公平性，以纳入社会正义与非西方规范框架。
• 本研究突出了算法殖民主义的风险：来自高收入国家的人工智能系统可能在缺乏本地语境或监督的情况下，延续历史不平等。