[논문 리뷰] Artificial Intelligence in the Global South (AI4D): Potential and Risks

P. J. Wall, Deepak Saxena외 1명|arXiv (Cornell University)|2021. 08. 23.

AI in Service Interactions참고 문헌 16인용 수 9

한 줄 요약

이 논문은 글로벌 남부에서 인공지능의 双重 잠재력과 위험을 검토하며, 글로벌 남부의 다양한 사회정치적 맥락에 글로벌 북부에서 개발된 AI 시스템을 도입함에 따라 발생하는 윤리적 과제를 강조한다. 지속 가능한 개발을 극대화하면서도 국가 감시와 문화적 부합성 결여 등의 위험을 최소화하기 위해 현지의 지식과 맥락을 반영한 AI 개발을 주장한다.

ABSTRACT

Artificial intelligence is becoming more widely available in all parts of the world. This has created many previously unforeseen possibilities for addressing the challenges outlined in the Sustainable Development Goals in the Global South. However, the use of AI in such contexts brings with it a unique set of risks and challenges. Among these are the potential for Governments to use such technologies to suppress their own people, and the ethical questions arising from implementing AI primarily designed and developed in the Global North into vastly different social, cultural, and political environments in the Global South. This paper examines the key issues and questions arising in the emerging sub-field of AI for global development (AI4D) and the potential and risks associated with using such technologies in the Global South. We propose that although there are many risks associated with the use of AI, the potential benefits are enough to warrant detailed research and investigation of the most appropriate and effective ways to design, develop, implement, and use such technologies in the Global South. We conclude by calling for the wider ICT4D community to continue to conduct detailed research and investigation of all aspects of AI4D.

연구 동기 및 목표

• 글로벌 남부에서 지속 가능한 개발 목표를 추진하는 데 있어 인공지능이 제공하는 고유한 기회를 분석하는 것.
• 글로벌 남부 맥락에서 글로벌 북부에서 개발된 AI 시스템을 도입함에 따라 발생하는 윤리적, 정치적, 문화적 위험을 특정하고 검토하는 것.
• 현지 가치, 거버넌스 구조, 권력 관계를 존중하는 맥락에 맞는 AI 개발을 주장하는 것.
• ICT4D 공동체 내에서 글로벌 남부의 책임 있는 AI 구현에 대해 지속적이고 다학제적 연구를 촉구하는 것.
• 기술의 강제적 도입, 특히 국가 감시와 현지 지식 체계의 배제 등의 위험을 부각하는 것.

제안 방법

• 저소득 및 중소수입 국가에서의 AI 도입에 관한 기존 문헌과 사례 연구를 비판적으로 검토하는 것.
• 식민지 해체 및 개발 윤리의 시각을 통해 AI 구현의 거버넌스, 윤리적, 사회정치적 차원을 분석하는 것.
• 컴퓨터 과학, 사회학, 개발 연구 분야의 다학제적 시각을 바탕으로 AI4D 과제를 평가하는 것.
• 글로벌 북부와 글로벌 남부 간의 AI 설계 및 구현에서 발생하는 권력 불균형을 평가하기 위해 개념적 프레임워크를 활용하는 것.
• 참여적이고 공정하며 책임감 있는 AI 개발을 목표로 하는 ICT4D 공동체를 위한 연구 계획을 제안하는 것.
• 현지 이해관계자의 참여를 보장하여 문화적 및 맥락적 관련성을 확보하기 위해 포함적인 설계 과정의 필요성을 강조하는 것.

실험 결과

연구 질문

• RQ1 어떻게 AI를 효과적이고 윤리적으로 활용하여 글로벌 남부에서 지속 가능한 개발 목표를 지원할 수 있는가?
• RQ2 글로벌 북부에서 개발된 AI 시스템을 글로벌 남부 맥락에 도입함에 있어 주요 위험 요소는 무엇인가?
• RQ3 글로벌 남부에서 AI 개발의 권력 불균형은 거버넌스, 형평성, 인권에 어떤 영향을 미치는가?
• RQ4 다양한 글로벌 남부 환경에서 지역 가치와 사회 구조를 존중하는 데 필요한 윤리적 프레임워크는 무엇인가?
• RQ5 ICT4D 공동체는 글로벌 남부에서 책임감 있고 맥락에 민감한 AI 개발에 어떻게 기여할 수 있는가?

주요 결과

• 글로벌 남부에서의 AI 도입은 국가 감시 및 억압 위험을 동반하며, 특히 현지 감시 없이 수입된 기술일 경우 더욱 심각하다.
• 글로벌 북부에서 개발된 AI 시스템은 종종 지역의 문화적, 정치적, 제도적 맥락을 고려하지 않아 효과적이거나 해로운 결과를 낳는다.
• 개발 과제 해결에 있어 관련성, 형평성, 지속 가능성 확보를 위해 현지 주도의 AI 개발이 절실한 필요성이 있다.
• 지속 가능한 개발 목표 달성에 있어 AI의 잠재적 이점은 크지만, 윤리적이고 참가적인, 맥락 인식이 있는 구현에 달려 있다.
• 현재의 AI4D 이니셔티브들은 권력 관계, 데이터 주권, 장기 거버넌스에 대한 충분한 고려가 부족하여 더욱 배제당하는 위험에 노출되어 있다.
• 논문은 ICT4D 공동체가 기술 식민주의를 방지하고 포괄적 개발을 보장하기 위해 글로벌 남부에서의 책임 있는 AI 통합 연구를 우선시해야 한다고 결론 내린다.