[논문 리뷰] Open Platforms for Artificial Intelligence for Social Good: Common Patterns as a Pathway to True Impact

Kush R. Varshney, Aleksandra Mojsilovic|arXiv (Cornell University)|2019. 05. 27.

Evaluation and Performance Assessment인용 수 5

한 줄 요약

이 논문은 일회성 프로젝트를 뛰어넘어 지속 가능한 영향을 달성하기 위한 확장 가능한 길로 개방형 재사용 가능한 AI 플랫폼을 제안한다. 개발 보고서의 NLP, 취약한 개인을 위한 원인 분석, 공정성 인식 분류와 같은 사회적 영향 문제의 공통 패턴을 식별함으로써, 플랫폼은 중복을 줄이고 인재 부족 및 구현 장벽을 극복하며, 사회 조직, AI 기업, 기금 기관 간의 협업을 통해 더 넓고 지속 가능한 변화를 가능하게 한다.

ABSTRACT

The AI for social good movement has now reached a state in which a large number of one-off demonstrations have illustrated that partnerships of AI practitioners and social change organizations are possible and can address problems faced in sustainable development. In this paper, we discuss how moving from demonstrations to true impact on humanity will require a different course of action, namely open platforms containing foundational AI capabilities to support common needs of multiple organizations working in similar topical areas. We lend credence to this proposal by describing three example patterns of social good problems and their AI-based solutions: natural language processing for making sense of international development reports, causal inference for providing guidance to vulnerable individuals, and discrimination-aware classification for supporting unbiased allocation decisions. We argue that the development of such platforms will be possible through convenings of social change organizations, AI companies, and grantmaking foundations.

연구 동기 및 목표

• 일회성 AI 프로젝트의 한계를 해결하기 위해 재사용 가능하고 확장 가능한 인프라로 전환함으로써 사회적 영향에 기여한다.
• 사회적 변화 조직이 겪는 AI 전문가 부족 및 최후의 마일스톤 구현 과제를 극복한다.
• 공동으로 활용 가능한 AI 능력을 통해 연합국 지속 가능한 개발 목표(SDGs)에 장기적이고 측정 가능한 영향을 줄 수 있도록 한다.
• 사회 조직, AI 기업, 기부 기금 기관 간의 협업을 통해 공동으로 개방형 플랫폼을 개발한다.
• 사회 복지 분야에서 공통된 AI 문제 패턴이 플랫폼 개발의 기초가 될 수 있음을 입증한다.

제안 방법

• 국제 개발 보고서 처리를 위한 NLP와 같은 AI 복지 분야의 반복되는 문제 패턴을 식별한다.
• 장기적 데이터와 간섭 모델링을 활용해 취약한 개인의 의사결정을 안내하는 원인 분석 모델을 개발한다.
• 보호되는 특성(예: 성함, 성별)을 제외함으로써 할당 결정에서 편향을 방지하는 차별 인식 분류 시스템을 설계한다.
• 사회 조직, AI 기업, 기금 기관이 공동으로 개발하고 유지보수하는 개방형 플랫폼을 위해 연합 모델을 제안한다.
• 기존의 개방형 데이터와 데이터 기부를 활용해 플랫폼의 학습 및 구현을 지원한다.
• 실세계 프로젝트에 플랫폼 기반 AI를 적용한다. 예를 들어 동아프리카의 모바일 대출 승인 및 인도 농촌 지역의 태양광 신용 시스템.

실험 결과

연구 질문

• RQ1 공동으로 사용 가능한 개방형 AI 플랫폼이 사회 복지 분야의 AI 이니셔티브에서 중복을 줄이고 확장성을 높일 수 있는가?
• RQ2 사회적 영향 분야에서 공통된 AI 문제 패턴은 무엇이며, 이를 재사용 가능한 플랫폼 구성 요소로 추상화할 수 있는가?
• RQ3 플랫폼 수준의 설계와 기능 엔지니어링을 통해 AI 기반 할당 결정의 편향을 어떻게 완화할 수 있는가?
• RQ4 사회 조직, AI 개발자, 기금 기관 간의 지속 가능한 협업을 가능하게 하는 제도적 모델은 무엇인가?
• RQ5 플랫폼 기반 AI가 사회 부문 조직이 겪는 '마지막 마일' 구현 과제를 어느 정도 해결할 수 있는가?

주요 결과

• 개발 보고서의 NLP, 개인 가이드를 위한 원인 분석, 공정성 인식 분류와 같은 공통된 AI 문제 패턴은 재사용 가능한 플랫폼 구성 요소로 추상화될 수 있다.
• 개방형 플랫폼은 기초 AI 능력을 재사용함으로써 여러 사회 복지 기관에 AI 솔루션을 구현하는 데 소요되는 시간과 노력을 크게 줄일 수 있다.
• M-Shwari 모바일 대출이나 Simpa Networks의 태양광 신용 시스템과 같은 할당 시스템에서의 편향 완화는 사후 조치보다 플랫폼 수준에 통합되었을 때 더 효과적이다.
• 플랫폼 수준의 설계를 통해 보호되는 특성의 대체 지표(예: 캐스트/종교에 대한 성함)를 모델 학습 시 체계적으로 제외함으로써 공정성을 향상시킬 수 있다.
• GiveDirectly 프로젝트의 사후 분석을 통해 위성 기반 빈곤도 추정에서 복합 수준의 건물 특성으로 인해 뜻하지 않은 편향이 발생한 사례를 확인하였으며, 이는 플랫폼 수준의 편향 감사가 필요함을 시사한다.
• 사회 조직, AI 기업, 기금 기관이 참여하는 연합 모델은 실세계 프로젝트를 통해 공동으로 개방형 플랫폼을 개발하고 유지보수하는 데 유망한 방식으로 입증되었다.