[論文レビュー] The Case for Globalizing Fairness: A Mixed Methods Study on Colonialism, AI, and Health in Africa

Mercy Asiedu, Awa Dieng+8 more|arXiv (Cornell University)|Mar 5, 2024

Viral Infections and Outbreaks Research被引用数 4

ひとこと要約

この混合研究手法を用いた研究は、アフリカにおけるAI駆動型医療における公平性の認識に植民主義がどのように影響するかを調査しており、スコープレビューと672名の一般参加者および28名の専門家を対象としたアンケートを組み合わせている。研究では、専門家は植民地主義の歴史をAIバイアスと結びつけるが、一般参加者の大多数は直接的な関連性を認識していないことが判明し、認識のギャップが顕在化しており、グローバルヘルスAI開発における文脈的根拠に基づき、哲学的に包摂的な公平性フレームワークの構築が求められている。

ABSTRACT

With growing application of machine learning (ML) technologies in healthcare, there have been calls for developing techniques to understand and mitigate biases these systems may exhibit. Fair-ness considerations in the development of ML-based solutions for health have particular implications for Africa, which already faces inequitable power imbalances between the Global North and South.This paper seeks to explore fairness for global health, with Africa as a case study. We conduct a scoping review to propose axes of disparities for fairness consideration in the African context and delineate where they may come into play in different ML-enabled medical modalities. We then conduct qualitative research studies with 672 general population study participants and 28 experts inML, health, and policy focused on Africa to obtain corroborative evidence on the proposed axes of disparities. Our analysis focuses on colonialism as the attribute of interest and examines the interplay between artificial intelligence (AI), health, and colonialism. Among the pre-identified attributes, we found that colonial history, country of origin, and national income level were specific axes of disparities that participants believed would cause an AI system to be biased.However, there was also divergence of opinion between experts and general population participants. Whereas experts generally expressed a shared view about the relevance of colonial history for the development and implementation of AI technologies in Africa, the majority of the general population participants surveyed did not think there was a direct link between AI and colonialism. Based on these findings, we provide practical recommendations for developing fairness-aware ML solutions for health in Africa.

研究の動機と目的

• アフリカの医療文脈におけるAIアプリケーションの公平性の認識に植民主義がどのように影響するかを検討すること。
• 西洋中心のモデルを超えた、アフリカにおけるグローバルヘルス分野のAIの公平性に関連する乖離の軸を特定・検証すること。
• アフリカの医療システムにおけるAIの公平性を形作る植民主義の歴史的遺産について、専門家と一般大衆の認識のギャップを埋めること。
• 低・中所得アフリカ諸国における公平性に配慮したAI開発のための実用的で文脈に即した提言を策定すること。
• 非西洋的な正義観および規範的枠組みを含む、アルゴリズムの公平性に関するより広範な哲学的基盤の構築を提唱すること。

提案手法

• アフリカの医療文脈におけるAIの公平性に関連する潜在的乖離軸を同定するため、スコープレビューを実施した。
• 複数のアフリカ諸国に住む672名の一般参加者を対象に、AIと植民主義に関する一般大衆の認識を評価するアンケートを実施した。
• アフリカを対象に機械学習、医療、政策分野の専門家28名に対して、インタビュー（IDIs）を実施し、専門的視点を収集した。
• テーマ分析を用いて定性的データを分析し、植民主義、AI、公平性に関する繰り返し現れるテーマを同定した。
• 混合研究手法の三角測定を用いて、専門家と一般大衆の認識を比較し、提案された乖離軸の妥当性を検証した。
• 研究の結果が、AIのグローバルヘルス分野におけるバイアス低減技術および政策開発に与える影響を検討した。

実験結果

リサーチクエスチョン

• RQ1 アフリカの一般参加者は、医療分野におけるAIと植民主義の関係をどのように認識しているか？
• RQ2 専門家と一般大衆は、アフリカの医療システムにおけるAIの公平性に関連する乖離の軸を、それぞれどのように特定しているか？
• RQ3 専門家は、植民主義の歴史を、アフリカの医療分野におけるAI導入の現時点での不平等にどの程度関連づけているか？
• RQ4 専門家と一般大衆の間で、AI公平性の文脈における植民主義の歴史的遺産に対する認識にどのような差が生じているか？
• RQ5 歴史的・構造的不平等を踏まえた、アフリカの医療文脈における公平性に配慮したAIシステム開発のための実用的提言は何か？

主な発見

• 専門家は、植民主義の歴史がアフリカの医療システムにおけるAI公平性に影響を与える主要な乖離軸であると強く認識している。
• 一般参加者の過半数（50％以上）は、植民主義とAIバイアスの間に直接的な関連性を認識しておらず、認識のギャップが顕在化している。
• 参加者から、国や国民の所得水準が、アフリカの医療文脈におけるAI公平性に影響を与える重要な乖離軸として特定された。
• 参加者らは、データ所有権、現地の参加、公平な提携関係の構築が、AI開発における公平性を確保するために重要であると強調した。
• 社会的正義や非西洋的規範的枠組みを含む、アルゴリズムの公平性に関するより広範な哲学的枠組みの構築が求められている。
• 本研究は、高所得国から開発されたAIシステムが、現地の文脈や監視がなければ、歴史的不平等を再現する可能性のある『アルゴリズム的植民主義』のリスクを浮き彫りにした。