[论文解读] Open Platforms for Artificial Intelligence for Social Good: Common Patterns as a Pathway to True Impact

Kush R. Varshney, Aleksandra Mojsilovic|arXiv (Cornell University)|May 27, 2019

Evaluation and Performance Assessment被引用 5

一句话总结

本文提出开放、可重用的AI平台，作为实现人工智能促进社会福祉长期影响的可扩展路径，超越一次性项目。通过识别社会影响问题中的常见模式——如用于发展报告的自然语言处理、用于弱势群体的因果推断，以及公平性感知的分类——平台可减少重复工作，克服人才与实施瓶颈，并通过社会组织、AI公司和基金会之间的协作，实现更广泛、可持续的变革。

ABSTRACT

The AI for social good movement has now reached a state in which a large number of one-off demonstrations have illustrated that partnerships of AI practitioners and social change organizations are possible and can address problems faced in sustainable development. In this paper, we discuss how moving from demonstrations to true impact on humanity will require a different course of action, namely open platforms containing foundational AI capabilities to support common needs of multiple organizations working in similar topical areas. We lend credence to this proposal by describing three example patterns of social good problems and their AI-based solutions: natural language processing for making sense of international development reports, causal inference for providing guidance to vulnerable individuals, and discrimination-aware classification for supporting unbiased allocation decisions. We argue that the development of such platforms will be possible through convenings of social change organizations, AI companies, and grantmaking foundations.

研究动机与目标

• 通过转向可重用、可扩展的基础设施，解决一次性AI项目在社会影响方面存在的局限性。
• 克服社会变革组织面临的AI人才短缺和最后一公里实施挑战。
• 通过共享AI能力，实现对联合国可持续发展目标（SDGs）的长期、可衡量的影响。
• 促进社会组织、AI公司和资助型基金会之间的协作，共同创建开放平台。
• 证明社会福祉领域中常见的AI问题模式可作为平台开发的基础。

提出的方法

• 识别人工智能促进社会福祉中的重复性问题模式，例如用于处理国际发展报告的自然语言处理。
• 开发因果推断模型，利用纵向数据和干预建模，为弱势个体提供决策指导。
• 设计对歧视不敏感的分类系统，通过排除受保护属性（如姓氏、性别）来防止分配决策中的偏见。
• 提出一种联合体模式，由社会组织、AI公司和基金会共同开发并维护开放平台。
• 利用现有开放数据和数据慈善项目，支持平台的训练与部署。
• 将基于平台的AI应用于实际项目，例如东非的移动贷款审批和印度农村的太阳能信贷系统。

实验结果

研究问题

• RQ1 开放、共享的AI平台能否减少人工智能促进社会福祉项目中的重复工作并提高可扩展性？
• RQ2 在社会影响领域中，存在哪些可抽象为可重用平台组件的通用AI问题模式？
• RQ3 如何通过平台级设计和特征工程，在AI驱动的分配决策中减轻偏见？
• RQ4 何种制度模式能够实现社会组织、AI开发者和资助方之间可持续的协作，以构建和维护开放平台？
• RQ5 基于平台的AI在多大程度上能够克服社会部门组织面临‘最后一公里’实施挑战？

主要发现

• 常见的AI问题模式——如用于发展报告的自然语言处理、用于个体指导的因果推断，以及公平性感知的分类——可被抽象为可重用的平台组件。
• 开放平台可通过复用基础AI能力，显著减少在多个社会福祉组织中部署AI解决方案所需的时间与精力。
• 在分配系统中减轻偏见，例如M-Shwari移动贷款或Simpa Networks的太阳能信贷系统，若在平台层面实现，比临时补救措施更为有效。
• 通过平台级设计，可系统性地排除受保护属性代理（如用姓氏代表种姓/宗教）用于模型训练，从而提升公平性。
• 对GiveDirectly项目的后期分析揭示，由于复合级建筑特征导致基于卫星的贫困估计产生非预期偏见，凸显了平台级偏见审计的必要性。
• 联合体模式——整合社会组织、AI公司和基金会——在实际项目中证明可行，可共同创建并维护开放平台。