[论文解读] In Consideration of Indigenous Data Sovereignty: Data Mining as a Colonial Practice

Jennafer Shae Roberts, Laura N. Montoya|arXiv (Cornell University)|Sep 19, 2023

Ethics and Social Impacts of AISocial Sciences被引用 3

一句话总结

本文主张，数据挖掘通过排除原住民声音和数据主权，延续了殖民主义，提出应应用CARE原则——集体利益、控制权、责任与伦理——以将数据驱动技术重新导向伦理化、原住民主导的治理模式。通过聚焦原住民知识与权利，该框架挑战了以利润和速度为导向的数据实践，为实现公平、以地球为中心的技术发展提供了一种范例。

ABSTRACT

Data mining reproduces colonialism, and Indigenous voices are being left out of the development of technology that relies on data, such as artificial intelligence. This research stresses the need for the inclusion of Indigenous Data Sovereignty and centers on the importance of Indigenous rights over their own data. Inclusion is necessary in order to integrate Indigenous knowledge into the design, development, and implementation of data-reliant technology. To support this hypothesis and address the problem, the CARE Principles for Indigenous Data Governance (Collective Benefit, Authority to Control, Responsibility, and Ethics) are applied. We cover how the colonial practices of data mining do not align with Indigenous convictions. The included case studies highlight connections to Indigenous rights in relation to the protection of data and environmental ecosystems, thus establishing how data governance can serve both the people and the Earth. By applying the CARE Principles to the issues that arise from data mining and neocolonialism, our goal is to provide a framework that can be used in technological development. The theory is that this could reflect outwards to promote data sovereignty generally and create new relationships between people and data that are ethical as opposed to driven by speed and profit.

研究动机与目标

• 批判性审视数据挖掘如何通过边缘化原住民社群与知识体系，强化殖民权力结构。
• 凸显在人工智能等依赖数据的技术设计与治理中，原住民声音被系统性排除的问题。
• 倡导原住民数据主权作为数据治理中必要且根本的伦理与结构性变革。
• 应用CARE原则作为框架，使数据实践与原住民价值观及权利保持一致。
• 推动以集体利益、环境守护及社区对数据的控制权为优先的伦理技术发展。

提出的方法

• 应用CARE原则——集体利益、控制权、责任与伦理——分析并重构数据挖掘实践。
• 运用案例研究阐明数据治理、原住民权利与环境保护之间的关联。
• 批判性分析数据挖掘作为新殖民主义实践的特征，即在无同意或互惠的情况下攫取价值。
• 将原住民认识论整合进技术设计，以挑战主导的、以利润为导向的模式。
• 从理论上将数据关系重新定义为伦理的、关系性的、以地球为中心的，而非交易性与剥削性的。
• 将现有数据实践与CARE原则进行对比评估，识别其与原住民世界观的错位之处。

实验结果

研究问题

• RQ1 在人工智能与数字技术的语境下，数据挖掘如何再现殖民权力动态？
• RQ2 当前的数据治理模式在哪些方面未能承认或尊重原住民数据主权？
• RQ3 CARE原则如何被具体实施，以实现将数据挖掘从殖民实践向去殖民化实践的转变？
• RQ4 在数据驱动技术的开发中，将原住民知识与权威置于中心位置会产生何种影响？
• RQ5 如何重构数据治理模式，以确保集体利益与环境可持续性？

主要发现

• 数据挖掘系统性地将原住民社群排除在数据驱动技术的决策过程之外，从而强化了历史上的权力失衡。
• 当前的数据提取模式优先考虑速度与利润，而非伦理考量、社区同意与环境完整性。
• CARE原则的应用揭示了主导数据实践与原住民所倡导的集体利益与责任价值观之间存在显著错配。
• 案例研究显示，原住民数据治理模式能够同时保护文化与环境生态系统。
• 根植于原住民主权的伦理数据治理，为人工智能与数字系统中剥削性数据实践提供了一种切实可行的替代方案。
• 通过原住民认识论重构数据关系，可实现更具可持续性、公平性与社区主导的技术发展。