[論文レビュー] Artificial Intelligence in the Global South (AI4D): Potential and Risks

P. J. Wall, Deepak Saxena+1 more|arXiv (Cornell University)|Aug 23, 2021

AI in Service Interactions参考文献 16被引用数 9

ひとこと要約

本論文は、グローバル南東部における人工知能（AI）の二面的潜在能力とリスクを検討し、グローバル北東部で開発されたAIシステムが多様な社会的・政治的文脈に導入される際に生じる倫理的課題に特に注目している。持続可能な開発のための利益を最大化するとともに、国家監視や文化的不一致といったリスクを軽減するため、文脈に配慮した、現地の知見に基づいたAI開発を提唱している。

ABSTRACT

Artificial intelligence is becoming more widely available in all parts of the world. This has created many previously unforeseen possibilities for addressing the challenges outlined in the Sustainable Development Goals in the Global South. However, the use of AI in such contexts brings with it a unique set of risks and challenges. Among these are the potential for Governments to use such technologies to suppress their own people, and the ethical questions arising from implementing AI primarily designed and developed in the Global North into vastly different social, cultural, and political environments in the Global South. This paper examines the key issues and questions arising in the emerging sub-field of AI for global development (AI4D) and the potential and risks associated with using such technologies in the Global South. We propose that although there are many risks associated with the use of AI, the potential benefits are enough to warrant detailed research and investigation of the most appropriate and effective ways to design, develop, implement, and use such technologies in the Global South. We conclude by calling for the wider ICT4D community to continue to conduct detailed research and investigation of all aspects of AI4D.

研究の動機と目的

• グローバル南東部における持続可能な開発目標（SDGs）の前進に向けたAIがもたらす独自の機会を分析すること。
• グローバル北東部で開発されたAIシステムをグローバル南東部の文脈に導入する際の、倫理的・政治的・文化的リスクを特定し、検討すること。
• 現地の価値観、統治構造、パワー・ダイナミクスを尊重する文脈特化型のAI開発を提唱すること。
• グローバル南東部における責任あるAI実装に関する、継続的かつ多様な分野の研究をICT4Dコミュニティが推進するよう呼びかけること。
• 技術的強制の危険性、特に国家監視や現地の知識体系の無視・排除を浮き彫りにすること。

提案手法

• 低所得・中所得国におけるAI導入に関する既存の文献および事例研究を批判的にレビューすること。
• 植民地主義的視点と開発倫理の枠組みを通じて、AI実装のガバナンス、倫理的側面、社会的・政治的次元を分析すること。
• コンピュータサイエンス、社会学、開発研究の多様な視点を統合し、AI4Dの課題を評価すること。
• グローバル北東部と南東部の間におけるAI設計・導入におけるパワー・インバランスを評価する概念的フレームワークを用いること。
• 参加型で公平かつ説明責任のあるAI開発に焦点を当てた、ICT4Dコミュニティのための研究アジェンダを提言すること。
• 文化的・文脈的関連性を保証するため、現地のステークホルダーが参加する包括的な設計プロセスの必要性を強調すること。

実験結果

リサーチクエスチョン

• RQ1 どのようにしてAIを、グローバル南東部における持続可能な開発目標（SDGs）の支援に効果的かつ倫理的に導入できるか？
• RQ2 グローバル北東部で開発されたAIシステムをグローバル南東部の文脈に実装する際の主なリスクは何か？
• RQ3 AI開発におけるパワー・インバランスが、グローバル南東部におけるガバナンス、公平性、人権にどのように影響を及えるか？
• RQ4 多様なグローバル南東部の状況において、AIシステムが現地の価値観と社会的構造を尊重するためには、どのような倫理的フレームワークが必要か？
• RQ5 ICT4Dコミュニティは、グローバル南東部における責任ある、文脈に配慮したAI開発にどのように貢献できるか？

主な発見

• グローバル南東部におけるAIの導入には、特に現地の監視がなければ、国家監視や抑圧の重大なリスクを伴う。
• グローバル北東部で開発されたAIシステムは、しばしば現地の文化的・政治的・制度的文脈を考慮していないため、効果的でない、あるいは有害な結果をもたらす。
• 開発課題に応じた関連性、公平性、持続可能性を確保するため、現地主導のAI開発が不可欠である。
• 持続可能な開発目標（SDGs）達成に向けたAIの潜在的メリットは大きいが、それは倫理的で、参加型かつ文脈に配慮した実装に依存する。
• 現在のAI4Dイニシアチブは、パワー・ダイナミクス、データ主権、長期的ガバナンスに十分な注意を払っておらず、さらなる格差化のリスクをはらんでいる。
• 本論文は、技術的植民地主義を回避し、包摂的開発を実現するため、ICT4Dコミュニティがグローバル南東部における責任あるAI統合の研究を最優先にすべきだと結論づける。