[論文レビュー] The Limits of Global Inclusion in AI Development

Alan Chan, Chinasa T. Okolo+2 more|arXiv (Cornell University)|Feb 2, 2021

Ethics and Social Impacts of AI参考文献 34被引用数 10

ひとこと要約

本論文は、AI開発におけるグローバルな包摂が、現在の実践（例えば、データラベリングのアウトソーシングや外国のAIラボの設立）によって権力の不均衡を強化しているため、システム的不平等を是正するには不十分であると主張する。代わりに、グローバル・サウスが国内のAI能力を構築できるようにするため、AIに特化した輸入代替工業化政策（ISI）を提唱する。これにより、利益の公平な分配とAIシステムの文脈的関連性が保証される。

ABSTRACT

Those best-positioned to profit from the proliferation of artificial intelligence (AI) systems are those with the most economic power. Extant global inequality has motivated Western institutions to involve more diverse groups in the development and application of AI systems, including hiring foreign labour and establishing extra-national data centers and laboratories. However, given both the propensity of wealth to abet its own accumulation and the lack of contextual knowledge in top-down AI solutions, we argue that more focus should be placed on the redistribution of power, rather than just on including underrepresented groups. Unless more is done to ensure that opportunities to lead AI development are distributed justly, the future may hold only AI systems which are unsuited to their conditions of application, and exacerbate inequality.

研究の動機と目的

• AI開発における現在の包摂実践、特にグローバル・サウスにおけるその限界を検討すること。
• 上位互換の、西洋主導のAIイニシアチブが、多様な貢献者を含める努力にもかかわらず、グローバルな不平等を恒常化していることの顕在化。
• 包摂そのものでは不十分であり、AI開発における権力と支配の再分配がなければ、AI開発の公平性は達成されないという主張。
• グローバル・サウスにおける公平なAI開発の構造的解決策として、AIに特化した輸入代替工業化政策（ISI）を提唱すること。
• グローバル・サウスにおける、低生産性の役割（例：データラベリング）から、高生産性の国内AIイノベーションへの移行を提唱すること。

提案手法

• 主なAI会議（NeurIPS 2020、ICML 2020）の出版インデックスを分析し、AI研究における世界的な代表性をマップすること。
• ImageNet や OpenImages といった広く使われるデータセットにおける地理的・文化的バイアスを評価し、グローバル・サウスの文脈が著しく欠落していることの分析。
• 特に、アマゾン・メカニカル・トゥーカーなどのプラットフォームを通じて、サハラ以南アフリカおよび東南アジアの低賃金労働者に依存するデータラベリングのグローバルな労働地図を検討すること。
• 歴史的な輸入代替工業化（ISI）政策と、グローバル・サウス向けに提案されたAIに特化したISIモデルとの類似性を考察すること。
• 国家主導のAI教育、インフラ整備、国内研究開発への投資を提言し、外国参画は制御下に置き、利益の再投資を促進すること。
• Deep Learning Indaba や Khipu といった成功事例を、インディジナスなAI開発のモデルとして強調すること。

実験結果

リサーチクエスチョン

• RQ1 AI開発における現在の包摂実践は、グローバル・サウスからの参加が増加しているにもかかわらず、なぜ依然としてグローバルな権力の不均衡を再現するのか？
• RQ2 バイアスを含むデータセットとアウトソーシングされたデータラベリングは、グローバル・サウスにおけるAIシステムの文脈的関連性と公平性をどの程度損なっているのか？
• RQ3 上位互換の外国主導のAI開発に代わる、グローバル・サウスにおける公平な技術的主権を実現する構造的代替策は何か？
• RQ4 AIに特化した輸入代替工業化（ISI）政策は、グローバル・サウスがAIから長期的に経済的・技術的利益を獲得するのにどのように寄与できるのか？
• RQ5 インディジナスなAI教育および研究ネットワークは、外国機関から地域コミュニティへの主権移行をどのように促進できるのか？

主な発見

• NeurIPS 2020 および ICML 2020 における出版インデックス上位10カ国の中で、ラテンアメリカ、アフリカ、東南アジアの国々はいずれも含まれず、最高位はベトナムで27位であった。
• 上位10の機関のうち8つが米国に所在しており、アフリカやラテンアメリカの大学や企業は上位100位にすら入っていない。
• ImageNet および OpenImages データセットはヨーロッパ中心的であり、エチオピアやパキスタンの新郎の写真を誤分類するなど、グローバル・サウスの画像で顕著に性能が劣る。
• 機械学習におけるデータ準備作業の80％以上が、データ収集、クリーニング、ラベリングを含んでおり、データラベリング市場は2027年までに65億ドルに達すると予測されている。
• アマゾン・メカニカル・トゥーカーの労働者のうち2％未満がグローバル・サウスから来ており、多くのデータラベリング労働がサハラ以南アフリカおよび東南アジアの低賃金労働者にアウトソーシングされている。
• 韓国におけるISI政策の歴史的成功事例（国家主導の産業政策、補助金、教育投資）は、グローバル・サウスにおけるAI開発のモデルを提供するが、同様の条件が整った場合に限る。