[논문 리뷰] The Case for Globalizing Fairness: A Mixed Methods Study on Colonialism, AI, and Health in Africa

Mercy Asiedu, Awa Dieng외 8명|arXiv (Cornell University)|2024. 03. 05.

Viral Infections and Outbreaks Research인용 수 4

한 줄 요약

이 혼합 방법 연구는 식민지주의가 아프리카의 인공지능 기반 의료에서 공정성 인식에 어떻게 영향을 미치는지 조사한다. 범위 검토와 아프리카 여러 국가의 일반 참여자 672명, 전문가 28명에 대한 설문 조사가 함께 이루어졌으며, 전문가들은 식민지 역사를 AI 편향과 연결하지만 일반 대중 참가자들은 대부분 직접적인 연관성을 느끼지 못함을 발견하여, 공정성에 대한 인식 격차가 존재하고, 글로벌 헬스 AI 개발에서 현지적이고 철학적으로 포괄적인 공정성 프레임워크 수립이 필요함을 시사한다.

ABSTRACT

With growing application of machine learning (ML) technologies in healthcare, there have been calls for developing techniques to understand and mitigate biases these systems may exhibit. Fair-ness considerations in the development of ML-based solutions for health have particular implications for Africa, which already faces inequitable power imbalances between the Global North and South.This paper seeks to explore fairness for global health, with Africa as a case study. We conduct a scoping review to propose axes of disparities for fairness consideration in the African context and delineate where they may come into play in different ML-enabled medical modalities. We then conduct qualitative research studies with 672 general population study participants and 28 experts inML, health, and policy focused on Africa to obtain corroborative evidence on the proposed axes of disparities. Our analysis focuses on colonialism as the attribute of interest and examines the interplay between artificial intelligence (AI), health, and colonialism. Among the pre-identified attributes, we found that colonial history, country of origin, and national income level were specific axes of disparities that participants believed would cause an AI system to be biased.However, there was also divergence of opinion between experts and general population participants. Whereas experts generally expressed a shared view about the relevance of colonial history for the development and implementation of AI technologies in Africa, the majority of the general population participants surveyed did not think there was a direct link between AI and colonialism. Based on these findings, we provide practical recommendations for developing fairness-aware ML solutions for health in Africa.

연구 동기 및 목표

• 식민지주의가 아프리카 의료 환경 내 인공지능 응용 프로그램의 공정성 인식에 어떻게 영향을 미치는지 조사하기.
• 서구 중심 모델을 초월하여 아프리카의 글로벌 헬스 분야에서의 인공지능 공정성과 관련된 축적된 불평등 축을 특정하고 검증하기.
• 식민지 유산이 아프리카 헬스 시스템의 인공지능 형평성에 영향을 미치는 데 있어 전문가와 일반 대중의 인식 격차를 메우기.
• 저소득 및 중소소득 아프리카 국가에서 공정성 인식 기반 인공지능 개발을 위한 실용적이고 맥락에 맞는 권고안을 마련하기.
• 비서구적 정의관과 규범 체계를 포함하는 보다 넓은 철학적 기반을 갖춘 알고리즘 공정성에 대한 주장하기.

제안 방법

• 아프리카 헬스 환경에서의 인공지능 공정성과 관련된 잠재적 불평등 축을 식별하기 위해 범위 검토를 수행하였다.
• 아프리카 여러 국가의 일반 대중 참가자 672명을 대상으로 설문 조사를 실시하여 AI와 식민지주의에 대한 일반 대중의 인식을 평가하였다.
• 아프리카를 중심으로 기계학습, 헬스, 정책 분야의 전문가 28명을 대상으로 심층 인터뷰(IDI)를 실시하여 전문가의 시각을 확보하였다.
• 주제 분석을 통해 식민지주의, 인공지능, 공정성에 관련된 반복되는 주제를 식별하였다.
• 혼합 방법 트라이앵귤레이션을 활용하여 전문가와 일반 대중의 인식을 비교하고 제안된 불평등 축을 검증하였다.
• 연구 결과가 글로벌 헬스 분야의 인공지능에서 편향 완화 기법과 정책 개발에 미치는 영향을 탐색하였다.

실험 결과

연구 질문

• RQ1 아프리카 일반 대중 참가자들은 의료 분야의 AI와 식민지주의 간의 관계를 어떻게 인식하고 있는가?
• RQ2 전문가와 일반 대중은 아프리카 헬스 시스템의 인공지능 공정성과 관련하여 어떤 불평등 축을 관련 있다고 보는가?
• RQ3 전문가들은 식민지 역사가 아프리카 의료 분야에서 AI 배포의 현재 불평등에 얼마나 깊이 연관되어 있다고 보는가?
• RQ4 전문가와 일반 대중 간에 AI 공정성의 맥락에서 식민지 유산의 유산에 대한 인식은 어떻게 다를까?
• RQ5 역사적 및 구조적 불평등을 고려하여 아프리카 헬스 환경에서 공정성 인식 기반 인공지능 시스템을 개발하기 위한 실용적 권고안은 무엇인가?

주요 결과

• 전문가들은 식민지 역사를 아프리카 헬스 시스템의 인공지능 공정성에 영향을 미치는 핵심 불평등 축으로 거의 전원이 인정하였다.
• 일반 대중 참가자 다수(50% 이상)는 식민지주의와 AI 편향 간의 직접적 연관성을 느끼지 못하여, 인식 격차가 존재함을 시사한다.
• 참가자들은 국적과 국가 소득 수준이 아프리카 헬스 환경에서의 인공지능 공정성에 영향을 미치는 중요한 불평등 축으로 지목하였다.
• 참가자들은 공정성을 확보하기 위해 데이터 소유권, 현지 포함, 공정한 파트너십의 중요성을 강조하였다.
• 사회정의와 비서구적 규범 체계를 포함하는 더 넓은 철학적 접근이 알고리즘 공정성에 필요하다.
• 연구는 알고리즘 식민지주의의 위험을 강조하며, 고소득 국가에서 유래한 인공지능 시스템이 현지 맥락이나 감독 없이 역사적 불평등을 재현할 수 있음을 경고한다.