[論文レビュー] A Material Lens on Coloniality in NLP

William A. Held, Camille Harris+2 more|arXiv (Cornell University)|Nov 14, 2023

Ethics and Social Impacts of AI被引用数 4

ひとこと要約

本論文は、アクター・ネットワーク理論（ANT）を用いて、NLPにおけるデータ、アルゴリズム、ソフトウェアを通じて植民地的支配構造が物質的に埋め込まれていることを明らかにし、NLP研究の各段階において地理的・言語的不平等が拡大していることを示している。植民性は偶然的ではなくシステム的であり、技術的道具がそれを強化していることが示され、NLPのデータおよびモデルにおける植民地的基盤の意図的な解体が、平等を達成するためのものであると主張している。

ABSTRACT

Coloniality, the continuation of colonial harms beyond "official" colonization, has pervasive effects across society and scientific fields. Natural Language Processing (NLP) is no exception to this broad phenomenon. In this work, we argue that coloniality is implicitly embedded in and amplified by NLP data, algorithms, and software. We formalize this analysis using Actor-Network Theory (ANT): an approach to understanding social phenomena through the network of relationships between human stakeholders and technology. We use our Actor-Network to guide a quantitative survey of the geography of different phases of NLP research, providing evidence that inequality along colonial boundaries increases as NLP builds on itself. Based on this, we argue that combating coloniality in NLP requires not only changing current values but also active work to remove the accumulation of colonial ideals in our foundational data and algorithms.

研究の動機と目的

• NLPの物質的インfraストラクチャー（データ、アノテーション、モデル、ソフトウェアを含む）にどのように植民地的パワー・ダイナミクスが埋め込まれているかを調査すること。
• NLPにおける技術的道具が、研究段階のあらゆる段階で、既存の植民地的階層を強化・拡大している仕組みを分析すること。
• 1950年から2022年までのNLP研究の出力における地理的・言語的格差を定量化し、植民地的ラインに沿った不平等の拡大を示すこと。
• NLPにおける植民性に対処するには価値観の変化を超えて、基礎となるデータおよびアルゴリズムに埋め込まれた植民地的理想の能動的解体が必要であると主張すること。
• ANTを形式的フレームワークとして用い、NLPの開発および展開を形作る社会技術的ネットワークをマッピングおよび解釈すること。

提案手法

• 著者たちは、データ生成、アノテーション、モデリング、展開に関する先行文献に記録されたプロセスを統合し、NLP開発および展開の包括的なアクター・ネットワークを構築した。
• アクター・ネットワーク理論（ANT）を適用し、人間のアクターと技術的道具を、NLP内でのパワー・ダイナミクスを形作る共同生成的エージェントとして扱った。
• 2022年9月までに発表された1万件を超えるCL分野の論文を対象とした定量的調査を実施し、著者所属の地域を特定するためのREMIND地域分類を用いた。
• 分析により、時間経過に伴う代表性および研究の焦点の変化を追跡し、西ヨーロッパおよび植民地的移住者国家の機関の継続的過剰代表が明らかになった。
• 地理的・言語的指標の限界を明らかにするために、定性的ケーススタディを用いた。これにより、植民性が表面的指標をはるかに超えて作用していることが示された。
• このフレームワークを用いて、社会的・技術的状況の変化が進んでも、技術的システムが植民地的パワー構造を安定化させている仕組みを解釈した。

実験結果

リサーチクエスチョン

• RQ1 NLPシステムのデータ、アルゴリズム、ソフトウェアに、植民性はどのように物質的に埋め込まれているか？
• RQ2 NLPにおける技術的道具は、研究段階のあらゆる段階で、どのように植民地的パワー構造を強化または再現しているか？
• RQ3 NLP研究の地理的・言語的分布は、どの程度植民地時代のパワー・バランスを反映しているか？
• RQ4 地政学的関心の変化は、研究者代表の有無にかかわらず、NLPで研究対象とされる言語の選定にどのように影響しているか？
• RQ5 基礎的データおよびモデルは、植民地的理想をどのように永続化しているのか。そして、それらはどのように能動的に解体できるか？

主な発見

• 1950年から2022年までのNLP研究の60％以上が、西ヨーロッパおよび英国植民地的移住国に属する機関から発表されており、依然としてヨーロッパ中心主義的支配が継続していることを示している。
• NLP研究の60％以上が西ヨーロッパ言語に集中しており、植民地的知識階層に根ざした長年の言語的バイアスが顕在化している。
• ロシア語やアラビア語に関する研究の増加は、地政学的関心の高まりに起因しており、現地の研究者代表の有無とは無関係であるため、公平性ではなく利害の一致が支配的であることを示している。
• アクター・ネットワーク分析により、NLPにおける技術的道具（特にデータおよびモデル）が、社会的価値が変化しても、植民地的パワーを安定化させる役割を果たしていることが明らかになった。
• 定量的分析により、NLPが自らの基盤的システムに蓄積的に依存するため、植民地的不平等が時間経過とともに拡大していることが示された。
• 定性的ケーススタディにより、地理的・言語的指標だけでは植民性を正しく把握できず、表面的データの背後にある構造的パワーの不均衡が依然として存在していることが明らかになった。