[論文レビュー] The Data-Production Dispositif

Milagros Miceli, Julian Posada|arXiv (Cornell University)|May 24, 2022

Digital Economy and Work Transformation被引用数 12

ひとこと要約

本論文は、ラテンアメリカにおけるアウトソーシングされた機械学習データ作業が、標準化された指示、監視、不安定な労働状況を通じて、権力／知識の階層を再生産するというフーコー的枠組みである「データ生産装置」を導入する。主な発見は、経済的疎外と上位からのディス course が、作業者の従順性を強いることで、バイアスの強いデータ解釈を正常化し、AIシステムにおける構造的不平等を固定化していることである。

ABSTRACT

Machine learning (ML) depends on data to train and verify models. Very often, organizations outsource processes related to data work (i.e., generating and annotating data and evaluating outputs) through business process outsourcing (BPO) companies and crowdsourcing platforms. This paper investigates outsourced ML data work in Latin America by studying three platforms in Venezuela and a BPO in Argentina. We lean on the Foucauldian notion of dispositif to define the data-production dispositif as an ensemble of discourses, actions, and objects strategically disposed to (re)produce power/knowledge relations in data and labor. Our dispositif analysis comprises the examination of 210 data work instruction documents, 55 interviews with data workers, managers, and requesters, and participant observation. Our findings show that discourses encoded in instructions reproduce and normalize the worldviews of requesters. Precarious working conditions and economic dependency alienate workers, making them obedient to instructions. Furthermore, discourses and social contexts materialize in artifacts, such as interfaces and performance metrics, limiting workers' agency and normalizing specific ways of interpreting data. We conclude by stressing the importance of counteracting the data-production dispositif by fighting alienation and precarization, and empowering data workers to become assets in the quest for high-quality data.

研究の動機と目的

• アウトソーシングされた機械学習データ作業が、制度的・言語的構造を通じて、権力と知識の階層をどのように再生産するかを調査すること。
• リクエスターの世界観が、タスク指示にどのように内蔵され、労働慣行を通じて正常化されるかを分析すること。
• データラベリングおよびアノテーションプロセスにおける作業者の自律性を制限する物的・社会的条件を検討すること。
• プラットフォームおよびBPOが、監視、パフォーマンス指標、経済的依存性を通じて、どのように従順性を強いるかを明らかにすること。
• 作業者の自立と労働の非商品化を促進する戦略を提言し、装置を是正すること。

提案手法

• フーコーの「装置」概念に根ざした「装置分析」を応用し、データ作業における言説、実践、物的実体の相互作用を分析する。
• 210通のデータ作業指示書類を分析し、内蔵された世界観と分類基準を同定する。
• データ作業者、マネージャー、リクエスターの55名とのインタビューを通じて、解釈プロセスと権力関係を理解する。
• アルゼンチンのクラウドソーシングプラットフォームおよびBPOでの参加観察を通じて、インターフェース設計、監視ツール、ワークフロー関連の実体を調査する。
• 言語的、行為的、物的次元の質的データを統合し、権力／知識関係がいかに（再）生産されるかを追跡する。
• 客観性よりも相互主体的説明可能性を重視する方法論的枠組みを用い、文脈を超えた解釈の妥当性を保証する。

実験結果

リサーチクエスチョン

• RQ1 ラテンアメリカの機械学習データ作業において、アウトソーシングされたデータ作業者に提供されるタスク指示に、どのような言説が内蔵されているか。
• RQ2 データ作業者、マネージャー、リクエスターは、指示とどのように対話してデータを生産し、その対話の中でどのような権力関係が生じるか。
• RQ3 インターフェース、パフォーマンス指標、監視ツールなどの物的実体（例：）は、指示の順守をどのように支援または制限するか。
• RQ4 経済的不安定性と依存性は、作業者の指示順守をどのように形作り、自律性を制限するか。
• RQ5 指示書類とプラットフォーム設計は、どのように特定のデータ解釈を自然化し、代替的視点を排除するか。

主な発見

• タスク指示は、リクエスターの世界観と暗黙の仮定を体系的に内蔵しており、特定のデータ解釈を正常化し、代替的視点を排除している。
• ラテンアメリカの文脈における経済的不安定性と依存性は、作業者に指示に従う以外の選択肢をほとんど与えず、批判的関与よりも従順性を強化している。
• プラットフォームのインターフェースとパフォーマンス指標は、言説的規範を物的実体化し、作業者の自律性を制限し、標準化されがちな（しばしばバイアスを含む）データラベリング慣行を正常化している。
• プラットフォームに埋め込まれた監視・統制メカニズムは、従順性を強いることで、市場論理に基づく規律された労働の形態にデータ作業を変容させている。
• 指示書類は、頻繁に改訂されるための生き物のような文書であり、継続的な交渉を示唆する一方で、リクエスターが定めた基準への依存を強化している。
• 作業者を単なる労働商品ではなく、高品質なデータの共同生産者として支援することで、装置をくつがえし、データセットの公平性と透明性を向上させることができる。