[論文レビュー] Generative AI and Power Imbalances in Global Education: Frameworks for Bias Mitigation

Matthew Nyaaba, Alyson Wright+1 more|arXiv (Cornell University)|Jun 5, 2024

Global Education and Multiculturalism被引用数 21

ひとこと要約

この論文は、Generative AI が教育における全球的な権力階層を強化する方法を分析し、偏見緩和のための二系統の枠組みを提案する：Inclusive AI Design と Pedagogical human-centric prompting.

ABSTRACT

This study examines how Generative Artificial Intelligence reproduces global power hierarchies in education and proposes a framework to address resulting inequities. Using a critical qualitative design, the study conducted zero-shot prompt testing with two leading systems, ChatGPT-4 Turbo and Gemini 1.5, and collected real-time outputs from Global North and South contexts. A critical interpretive analysis traced textual, visual, and structural patterns that revealed forms of digital neocolonialism and their implications for educational equity. Findings show six ways in which GenAI can reinforce Western dominance. Western curriculum assumptions appeared when Gemini listed the same four seasons for the United States and Ghana, reflecting Western climatology and overlooking regional knowledge systems. Other patterns included cultural stereotyping in imagery, Western-centered examples in instructional outputs, limited support for Indigenous and local languages, underrepresentation of non-Western identities in visuals, and access barriers linked to subscription-based models. These patterns demonstrate how GenAI can reproduce inequities even as it introduces new educational opportunities. In response, the study proposes a dual-pathway mitigation model. The Inclusive AI Design pathway includes three components: liberatory design methods that center non-Western epistemologies, anticipatory approaches to reduce representational harm, and decentralized GenAI hubs that support local participation and data sovereignty. The pedagogical pathway, human-centric prompt engineering, equips educators to contextualize prompts and critically engage with outputs. Together, these pathways position GenAI as a tool that can support more equitable and culturally responsive education.

研究の動機と目的

• Generative AI が教育において全球的な権力階層を再生産する様子を検討する。
• Global North and South の文脈を横断する GenAI 出力における偏見と不平等の具体的パターンを特定する。
• 偏見を緩和し、文化的に配慮した公正な教育を促進する枠組みを開発する。

提案手法

• ChatGPT-4 Turbo と Gemini 1.5 を用いたゼロショット・プロンプトテストを実施する。
• Global North および Global South contexts からの実時出力を収集する。
• テキスト、ビジュアル、構造におけるデジタルネオコロニアル主義のパターンを特定するために批判的解釈分析を適用する。

実験結果

リサーチクエスチョン

• RQ1 What forms of digital neocolonialism and Western-centric bias appear in GenAI educational outputs?
• RQ2 How do Western curriculum assumptions and representation issues manifest in GenAI-generated content?
• RQ3 What governance and design approaches can mitigate inequities in GenAI-assisted education?
• RQ4 Can a dual-pathway framework—Inclusive AI Design and Pedagogical prompting—reduce bias and improve local participation and data sovereignty?

主な発見

• GenAI 出力は、西洋支配を強化する六つのパターンを示しており、西洋の気候学前提や限られた現地知識表象を含む。
• 画像や例は西洋中心的かつ非先住民的な表現に傾く。
• 非西洋言語と先住民知識は出力で限られたサポートしか受けられない。
• アクセスの障壁はサブスクリプション型モデルと結びついている。
• 新たな機会があっても GenAI が不平等を再生産する可能性がある。