[논문 리뷰] A Material Lens on Coloniality in NLP

William A. Held, Camille Harris외 2명|arXiv (Cornell University)|2023. 11. 14.

Ethics and Social Impacts of AI인용 수 4

한 줄 요약

이 논문은 Actor-Network Theory(ANT)를 적용하여 NLP의 데이터, 알고리즘, 소프트웨어를 통해 식민지적 권력 구조가 물리적으로 어떻게 내재되어 있는지 폭 드러내며, NLP 연구 단계 전반에 걸쳐 증가하는 지리적 및 언어적 불평등을 드러낸다. 식민성은 부수적인 것이 아니라 체계적인 것으로, 기술적 유산에 의해 강화되며, NLP의 데이터와 모델에서 식민지적 기반을 의도적으로 해체함으로써 정의를 달성해야 한다고 주장한다.

ABSTRACT

Coloniality, the continuation of colonial harms beyond "official" colonization, has pervasive effects across society and scientific fields. Natural Language Processing (NLP) is no exception to this broad phenomenon. In this work, we argue that coloniality is implicitly embedded in and amplified by NLP data, algorithms, and software. We formalize this analysis using Actor-Network Theory (ANT): an approach to understanding social phenomena through the network of relationships between human stakeholders and technology. We use our Actor-Network to guide a quantitative survey of the geography of different phases of NLP research, providing evidence that inequality along colonial boundaries increases as NLP builds on itself. Based on this, we argue that combating coloniality in NLP requires not only changing current values but also active work to remove the accumulation of colonial ideals in our foundational data and algorithms.

연구 동기 및 목표

• NLP의 물리적 인프라, 즉 데이터, 애너테이션, 모델, 소프트웨어에 식민지적 권력 다이내믹스가 어떻게 내재되어 있는지 조사하기.
• NLP의 기술적 유산이 연구 단계 전반에 걸쳐 기존의 식민지적 계층을 강화하고 증폭시키는 방식을 분석하기.
• 1950년에서 2022년 사이의 NLP 연구 성과에서 지리적 및 언어적 격차를 정량화하여 식민지적 선에 따라 증가하는 불평등을 보여주기.
• NLP에서 식민성을 극복하기 위해서는 가치 변화를 넘어서, 기초 데이터와 알고리즘에 내재된 식민지적 이상을 적극적으로 해체해야 한다고 주장하기.
• ANT를 공식적 프레임워크로 사용하여 NLP 개발 및 구현을 형성하는 사회기술적 네트워크를 맵핑하고 해석하기.

제안 방법

• 저자들은 데이터 생산, 애너테이션, 모델링, 배포에 관해 이전 문헌에서 기록된 과정을 통합하여 NLP 개발 및 배포의 종합적인 Actor-Network를 구축한다.
• 저자들은 Actor-Network Theory(ANT)를 적용하여 인간 행위자와 기술적 유산을 모두 NLP 내의 권력 다이내믹스를 형성하는 상호 구성적 에이전트로 간주한다.
• 2022년 9월까지의 10,000篇 이상의 CL 논문에 대한 정량적 설문 조사가 수행되었으며, REMIND 지역 분류 체계를 사용하여 저자 소속 기관과 언어 연구 기원을 맵핑한다.
• 분석은 시간이 지남에 따라 표현과 연구 초점의 변화를 추적하여, 지속적인 서유럽 및 식민지 이주 국가 기관의 과도한 비중을 드러낸다.
• 지리적 및 언어적 지표의 한계를 드러내기 위해 정성적 사례 연구가 사용되며, 식민성이 표면적 지표를 초월해 구조적 불균형을 유지함을 보여준다.
• 프레임워크는 기술 시스템이 사회적 및 기술적 조건이 변화함에도 불구하고 식민지적 권력 구조를 안정화시키는 방식을 설명하는 데 사용된다.

실험 결과

연구 질문

• RQ1 식민성은 NLP 시스템의 데이터, 알고리즘, 소프트웨어에 어떻게 물리적으로 내재되어 있는가?
• RQ2 NLP의 기술적 유산이 연구 단계 전반에 걸쳐 식민지적 권력 구조를 어떻게 강화하거나 재생산하는가?
• RQ3 NLP 연구의 지리적 및 언어적 분포가 어느 정도 식민지 시대의 권력 불균형을 반영하고 있는가?
• RQ4 지정학적 관심의 변화가 연구자 대표성과 무관하게 NLP에서 연구되는 언어의 선택에 어떤 영향을 미치는가?
• RQ5 기초 데이터와 모델이 식민지적 이상을 어떻게 지속시키며, 이를 어떻게 적극적으로 해체할 수 있는가?

주요 결과

• 1950년에서 2022년 사이의 NLP 연구 중 60퍼센트 이상이 서유럽 및 영국 식민지 이주 국가 소속 기관에서 발표되었으며, 이는 지속적인 유럽 중심적 지배를 시사한다.
• NLP 연구의 60퍼센트 이상이 서유럽 언어에 집중되어 있어, 식민지 지식 계층 구조에 뿌리를 둔 오랜 기간 지속된 언어적 편향을 반영한다.
• 러시아어 및 아랍어에 대한 연구 급증은 현지 연구자 대표성과는 무관하게 지정학적 관심에 의해 이끌린 것으로, 정의보다는 이해관계의 공통점이 더 중요함을 시사한다.
• Actor-Network 분석은 NLP의 기술적 유산, 특히 데이터와 모델이 사회적 가치가 변화하더라도 식민지적 권력 구조를 안정화시키는 역할을 한다고 드러낸다.
• 정량적 분석은 NLP가 자신의 기초 시스템을 바탕으로 축적되면서 시간이 지남에 따라 식민지적 불평등이 증가함을 보여주며, 누적된 배제를 시사한다.
• 정성적 사례 연구는 지리적 및 언어적 지표만으로는 식민성을 과소평가하며, 표면적 데이터를 뛰어난 구조적 권력 불균형이 여전히 존재함을 보여준다.