[論文レビュー] FATE in AI: Towards Algorithmic Inclusivity and Accessibility

Isa Inuwa-Dutse|arXiv (Cornell University)|Jan 3, 2023

Ethics and Social Impacts of AI参考文献 67被引用数 5

ひとこと要約

本論文は、グローバルサウスの未発達コミュニティから代表的なデータを収集・キュレートすることで、AIにおけるアルゴリズム的包摂性とアクセシビリティを向上させるコミュニティ主導の戦略を提唱する。ナイジェリアで実施したユーザー調査（n=43）および参加型セッション（n=30）を通じて、AIシステムがしばしばバイアスを内蔵し、文脈に特化した透明性に欠けることが判明。これにより、倫理的なAI開発を導くために、コミュニティの懸念事項と価値に関する公開リポジトリの構築を提言する。

ABSTRACT

Artificial Intelligence (AI) is at the forefront of modern technology, and its effects are felt in many areas of society. To prevent algorithmic disparities, fairness, accountability, transparency, and ethics (FATE) in AI are being implemented. However, the current discourse on these issues is largely dominated by more economically developed countries (MEDC), leaving out local knowledge, cultural pluralism, and global fairness. This study aims to address this gap by examining FATE-related desiderata, particularly transparency and ethics, in areas of the global South that are underserved by AI. A user study (n=43) and a participatory session (n=30) were conducted to achieve this goal. The results showed that AI models can encode bias and amplify stereotypes. To promote inclusivity, a community-led strategy is proposed to collect and curate representative data for responsible AI design. This will enable the affected community or individuals to monitor the increasing use of AI-powered systems. Additionally, recommendations based on public input are provided to ensure that AI adheres to social values and context-specific FATE needs.

研究の動機と目的

• AIのFATE（公平性、説明責任、透明性、倫理）議論における西洋中心的視点の優位性を是正すること。
• グローバルサウスの未発達コミュニティがAI関連のFATE問題をどのように認識・関与しているかを明らかにすること。
• 責任あるAI設計のためのコミュニティ主導のデータ収集・キュレーティング手法の開発と実装すること。
• 地域の価値観、文化的多様性、社会的・人口統計的多様性を統合することで、アルゴリズムの透明性と包摂性を向上させること。

提案手法

• ナイジェリアのオンラインユーザーを対象に、AIにおけるFATEに関する洞察を収集するためのユーザー調査（n=43）と参加型セッション（n=30）を実施した。
• コミュニティからの入力を受けるための2つの公開でオープンアクセス可能なリポジトリ（「懸念事項の文書」と「価値の文書」）を開発・配備した。
• 説明の明確さ、文脈的関連性、言語の適切さに注目し、AI説明スタイルに関する定性的フィードバックを収集した。
• 特に広告推薦や意思決定の説明に関して、ユーザーがAIの透明性と公平性をどのように認識しているかを分析した。
• アルゴリズム的バイアスを是正し、倫理的なAI開発を確保するために、コミュニティ主導のデータキュレーティングモデルを提言した。
• 影響を受けるコミュニティがAIガバナンスおよび透明性メカニズムの設計に参加できるようにするため、参加型デザインの原則を用いた。

実験結果

リサーチクエスチョン

• RQ1 グローバルサウスの未発達コミュニティは、AIシステムにおける透明性と倫理をどのように認識しているか？
• RQ2 非西洋的・低リソースな文脈におけるユーザーが、FATE関連の懸念事項と価値をどのように表現しているか？
• RQ3 コミュニティ主導のデータ収集・キュレーティングは、AIにおけるアルゴリズム的公平性と包摂性をどのように向上させることができるか？
• RQ4 地域の文化的・言語的文脈において、最も効果的でアクセス可能なAI説明の種類は何か？
• RQ5 コミュニティの懸念事項と価値に関する公開リポジトリは、AI開発の監視と誘導にどのように貢献できるか？

主な発見

• 参加者らは、特にオンライン広告に関するAI説明が、しばしば曖昧で情報が少なく、複雑すぎるとして報告した。ある参加者は、Instagramの説明が長すぎて簡潔にできると指摘した。
• 文脈に特化した、価値に基づいた、言語的に適切な説明が強く求められており、これによりアルゴリズムのアクセシビリティとユーザー理解が向上すると考えられる。
• 研究では、AIモデルがしばしば社会的バイアスを内蔵・強化しており、特に代表的でないデータで学習された場合、人種や性別に関連するバイアスが顕著に現れることが判明した。
• コミュニティ主導のデータキュレーティングは、アルゴリズム的バイアスを是正し、AIシステムが地域の規範や価値を反映するようにするための重要なメカニズムであると特定された。
• 参加型アプローチを通じて、懸念事項と価値に関するオープンリポジトリを通じた公的参加が、コミュニティがAIの展開を能動的に監視・影響できるようにすることが明らかになった。
• デジタルリテラシーと言語が透明性の主な障壁であった。ユーザーは、社会的・文化的背景や文化的文脈に合った形で、現地語での説明が必要だと強調した。