[論文レビュー] Open Platforms for Artificial Intelligence for Social Good: Common Patterns as a Pathway to True Impact

Kush R. Varshney, Aleksandra Mojsilovic|arXiv (Cornell University)|May 27, 2019

Evaluation and Performance Assessment被引用数 5

ひとこと要約

本稿は、一時的なプロジェクトにとどまらず、持続可能なインパクトを実現するためのスケーラブルな道筋として、オープンで再利用可能なAIプラットフォームの構築を提唱する。社会的インパクト問題における共通のパターン—例えば開発報告書のNLP処理、脆弱な個人に対する因果推論、公平性を考慮した分類—を特定することで、重複を削減し、人材不足や実装の障壁を克服し、社会的組織、AI企業、財団の間での協働を通じて、広範かつ持続可能な変化を実現できる。

ABSTRACT

The AI for social good movement has now reached a state in which a large number of one-off demonstrations have illustrated that partnerships of AI practitioners and social change organizations are possible and can address problems faced in sustainable development. In this paper, we discuss how moving from demonstrations to true impact on humanity will require a different course of action, namely open platforms containing foundational AI capabilities to support common needs of multiple organizations working in similar topical areas. We lend credence to this proposal by describing three example patterns of social good problems and their AI-based solutions: natural language processing for making sense of international development reports, causal inference for providing guidance to vulnerable individuals, and discrimination-aware classification for supporting unbiased allocation decisions. We argue that the development of such platforms will be possible through convenings of social change organizations, AI companies, and grantmaking foundations.

研究の動機と目的

• 社会的インパクト分野における一時的AIプロジェクトの限界を解消し、再利用可能でスケーラブルなインfra構築へと移行すること。
• 社会的変化を図る組織が直面するAI人材不足や最終段階の実装課題を克服すること。
• 共有されたAI能力を通じて、国連持続可能な開発目標（SDGs）に長期的かつ測定可能なインパクトをもたらすこと。
• 社会的組織、AI企業、助成財団の間で協働し、オープンプラットフォームを共同で開発すること。
• 社会的善悪分野における共通のAI問題パターンが、プラットフォーム開発の基盤として機能できることを示すこと。

提案手法

• 開発報告書のNLP処理など、社会的善悪分野における繰り返し現れる問題パターンを同定すること。
• 縦断的データと干渉モデルを用いて、脆弱な個人の意思決定を支援する因果推論モデルを開発すること。
• 保護属性（例：姓、性別）を排除することで、割り当て意思決定におけるバイアスを防ぐ、差別認識型分類システムを設計すること。
• 社会的組織、AI企業、財団が参加するコンsortiumモデルを提唱し、オープンプラットフォームの共同開発と持続可能性を確保すること。
• 既存のオープンデータおよびデータ寄付を活用し、プラットフォームのトレーニングと展開を支援すること。
• 実世界のプロジェクトにプラットフォームベースAIを適用する。例：東アフリカのモバイルローン承認、インド農村部のソーラークレジット制度。

実験結果

リサーチクエスチョン

• RQ1 オープンで共有可能なAIプラットフォームは、社会的善悪分野のAIイニシアチブにおける重複を減らし、スケーラビリティを高めることができるか？
• RQ2 社会的インパクト分野において、再利用可能なプラットフォームコンポーネントとして抽象化できる共通のAI問題パターンは何か？
• RQ3 プラットフォームレベルでの設計と特徴工学により、AI駆動の割り当て意思決定におけるバイアスはどのように軽減できるか？
• RQ4 社会的組織、AI開発者、資金提供機関の間で、オープンプラットフォームの構築と維持を可能にするインstitutionalモデルは何か？
• RQ5 プラットフォームベースAIは、社会的セクター組織が直面する「最後のマイル」実装課題をどの程度克服できるか？

主な発見

• NLPによる開発報告書処理、個人の意思決定支援のための因果推論、公平性を考慮した分類といった共通のAI問題パターンは、再利用可能なプラットフォームコンポーネントとして抽象化可能である。
• オープンプラットフォームにより、複数の社会的善悪組織におけるAIソリューションの展開に要する時間と労力が顕著に削減される。
• M-ShwariモバイルローンやSimpa Networksのソーラークレジット制度のような割り当てシステムにおけるバイアス低減は、プラットフォームレベルに組み込むことで、後から個別に修正するよりも効果的である。
• プラットフォームレベルでの設計により、保護属性の代理指標（例：姓による caste/religion の推定）を体系的に除外できるため、公平性が向上する。
• GiveDirectlyプロジェクトの事後分析から、建物のレベルの特徴が原因で衛星ベースの貧困推定に意図しないバイアスが生じていることが判明し、プラットフォームレベルでのバイアス監査の必要性が浮き彫りになった。
• 社会的組織、AI企業、財団が参加するコンsortiumモデルは、実世界のプロジェクトの事例からも示されるように、オープンプラットフォームの共同開発と持続可能性を実現する上で実用的である。