[논문 리뷰] The Limits of Global Inclusion in AI Development

Alan Chan, Chinasa T. Okolo외 2명|arXiv (Cornell University)|2021. 02. 02.

Ethics and Social Impacts of AI참고 문헌 34인용 수 10

한 줄 요약

이 논문은 글로벌 AI 개발에의 포괄성을 통해 체계적 불평등을 해결할 수 없다고 주장한다. 현재의 관행—예를 들어 데이터 레이블링 외주화 및 외국의 AI 연구소 설립—은 권력 불균형을 강화하기 때문이다. 대신, 글로벌 남부가 국내 AI 역량을 구축할 수 있도록 보장하고, 수익과 맥락적 관련성 측면에서 공정한 접근을 보장하기 위해 AI 중심의 수입대체산업화 정책(이하 ISI)을 제안한다.

ABSTRACT

Those best-positioned to profit from the proliferation of artificial intelligence (AI) systems are those with the most economic power. Extant global inequality has motivated Western institutions to involve more diverse groups in the development and application of AI systems, including hiring foreign labour and establishing extra-national data centers and laboratories. However, given both the propensity of wealth to abet its own accumulation and the lack of contextual knowledge in top-down AI solutions, we argue that more focus should be placed on the redistribution of power, rather than just on including underrepresented groups. Unless more is done to ensure that opportunities to lead AI development are distributed justly, the future may hold only AI systems which are unsuited to their conditions of application, and exacerbate inequality.

연구 동기 및 목표

• 글로벌 남부에서의 현재 AI 개발 포용 관행의 한계를 검토하는 것.
• 다양한 기여자를 포함하기 위한 노력에도 불구하고, 상향식으로 주도되는 서유럽 중심의 AI 이니셔티브가 여전히 세계적 불평등을 유지하는 방식을 부각하는 것.
• 포용성 자체만으로는 AI 개발에 대한 권력과 통제의 재분배가 수반되지 않는 한 충분하지 않다는 주장을 펼치는 것.
• 공정한 AI 개발을 위한 구조적 해결책으로 AI 중심의 수입대체산업화 정책(이하 ISI)을 제안하는 것.
• 글로벌 남부에서 저생산성 직무(예: 데이터 레이블링)에서 고생산성 국내 AI 혁신으로의 전환을 옹호하는 것.

제안 방법

• NeurIPS 2020 및 ICML 2020와 같은 주요 AI 컨ference의 논문 인덱스를 분석하여 글로벌 AI 연구에서의 지리적 대표성을 맵핑하는 것.
• ImageNet 및 OpenImages와 같은 널리 사용되는 데이터셋의 지리적·문화적 편향을 평가하여 글로벌 남부 맥락이 부족하게 반영된 점을 분석하는 것.
• 특히 아프리카 서부 및 동남아시아에서 저임금 노동자들이 Amazon Mechanical Turk 같은 플랫폼을 통해 외주된 데이터 레이블링 노동에 의존하는 글로벌 노동 지리학을 분석하는 것.
• 역사적 수입대체산업화 정책(ISI)과 글로벌 남부를 위한 제안된 AI 중심 ISI 모델 간 유사성을 도출하는 것.
• 국가 주도의 AI 교육, 인프라, 국내 연구개발 투자와 제한된 외부 참여 및 수익 재투자 전략을 제안하는 것.
• 딥러닝 인다바(Deep Learning Indaba) 및 키퍼(Khipu)와 같은 성공적인 지역 기반 이니셔티브를 국내 기반 AI 개발의 모델로 제시하는 것.

실험 결과

연구 질문

• RQ1 AI 개발에서의 현재 포용 관행은 글로벌 남부의 참여 증가에도 불구하고 어떻게 세계적 권력 불균형을 재생산하는가?
• RQ2 편향된 데이터셋과 외주된 데이터 레이블링은 글로벌 남부의 AI 시스템에서 맥락적 관련성과 공정성에 얼마나 깊이 영향을 미치는가?
• RQ3 글로벌 남부에서 기술적 주권을 공정하게 실현할 수 있는, 상향식 외부 주도 AI 개발의 대안이 될 수 있는 구조적 대안는 무엇인가?
• RQ4 AI 중심의 수입대체산업화 정책(ISI)은 글로벌 남부가 AI에서 장기적인 경제적·기술적 이익을 확보하는 데 어떻게 기여할 수 있는가?
• RQ5 지역 기반 AI 교육 및 연구 네트워크는 외부 기관에서 지역 공동체로의 주도권 이행에 어떤 역할을 할 수 있는가?

주요 결과

• NeurIPS 2020 및 ICML 2020에서 논문 인덱스 상위 10개 국가 중 어느 한 곳도 라틴 아메리카, 아프리카, 동남아시아 소속이 아니었으며, 베트남만 27위로 유일하게 상위에 진입했다.
• 논문 인덱스 상위 10개 기관 중 8개는 미국에 소재해 있었고, 아프리카나 라틴 아메리카의 대학이나 기업은 상위 100개 기관에 포함되지 않았다.
• ImageNet 및 OpenImages 데이터셋은 유럽 중심적이며, 에티오피아나 파키스탄의 신랑 사진에서 심각한 오분류가 발생한다.
• 기계학습에서 데이터 준비 작업의 80퍼센트 이상이 데이터 수집, 정제, 레이블링을 포함하며, 데이터 레이블링 시장은 2027년까지 65억 달러에 이를 것으로 예상된다.
• Amazon Mechanical Turk의 근로자 중 글로벌 남부 출신 비율은 2퍼센트 미만이며, 대부분의 데이터 레이블링 노동은 아프리카 서부 및 동남아시아의 저임금 노동자들에게 외주된다.
• 한국의 역사적 성공 사례—국가 주도 산업정책, 보조금, 교육 투자—는 글로벌 남부에서 AI 개발에 대한 모델을 제공하며, 동일한 조건이 충족될 경우 유사한 성공이 가능하다.