[論文レビュー] Data Leverage: A Framework for Empowering the Public in its Relationship with Technology Companies

Nicholas Vincent, Hanlin Li+3 more|arXiv (Cornell University)|Dec 18, 2020

Privacy, Security, and Data Protection参考文献 107被引用数 9

ひとこと要約

本論文は、公共のデータ寄与を戦略的に削減・転用・操作することで、技術企業の影響力に対抗するためのフレームワーク「データリーバーブ」を提唱する。機械学習、HCI、公平性研究を統合し、データストライキ、汚染、意識的なデータ寄与といった実行可能なデータ・レバーを特定し、プライバシー、格差、AIの責任に関する問題に対処するための政策的・技術的道筋を提示する。

ABSTRACT

Many powerful computing technologies rely on implicit and explicit data contributions from the public. This dependency suggests a potential source of leverage for the public in its relationship with technology companies: by reducing, stopping, redirecting, or otherwise manipulating data contributions, the public can reduce the effectiveness of many lucrative technologies. In this paper, we synthesize emerging research that seeks to better understand and help people action this extit{data leverage}. Drawing on prior work in areas including machine learning, human-computer interaction, and fairness and accountability in computing, we present a framework for understanding data leverage that highlights new opportunities to change technology company behavior related to privacy, economic inequality, content moderation and other areas of societal concern. Our framework also points towards ways that policymakers can bolster data leverage as a means of changing the balance of power between the public and tech companies.

研究の動機と目的

• 技術企業と一般市民の間の力の不均衡を是正することを目的とし、一般市民のデータ寄与に根ざした未利用のレバーポイントを同定すること。
• データ寄与を単なる受動的入力ではなく、社会的変化を実現するための戦略的動員が可能な集団的労働の形として位置づけること。
• 機械学習、HCI、公平性分野の学際的研究を統合し、データ依存型技術に対する一般市民の影響力を実用化すること。
• 集団的行動の障壁を低減し、一般市民のデータリーバーブを拡大するための政策的・技術的介入を提示すること。
• 広範なデータリーバーブの使用がもたらす社会的影響およびリスク、特にAIシステムやプラットフォームエコシステムに及ぼす二次的効果を評価すること。

提案手法

• 計算技術が人間が生成するデータに依存していることに基づき、データリーバーブを新たな概念的フレームワークとして提唱する。
• データストライキ、データ汚染、意識的なデータ寄与、データポータビリティ（CDC）といった主要な「データ・レバー」を特定・分類し、一般市民の影響力の手段として位置づける。
• 公平性、責任、人間-コンピュータインタラクション分野における先行研究の知見を活用し、各レバーの実行可能性と影響を分析する。
• データポータビリティや削除権法といった政策的メカニズムを提言し、データリーバーブを制度化・拡大する。
• 影響の可視化や、データストライキや汚染の自動化（例：AdNauseamにインspired）を支援する技術的ツールの開発を提言する。
• CDCベースの戦略の効果を高めるために、データの相互運用性やポータビリティに関する技術的課題に対処する。

実験結果

リサーチクエスチョン

• RQ1 プライバシー、バイアス、利益分配といった問題に関して、一般市民のデータ寄与をどのように戦略的に活用して技術企業の行動に影響を与えることができるか？
• RQ2 個人および集団がデータ依存型プラットフォームに圧力を加えるために利用可能な、最も現実的かつ倫理的に適切なデータ・レバーは何か？
• RQ3 集団的行動の障壁を低減し、一般市民のデータリーバーブを拡大するための政策的・技術的インfraストラクチャはどのように設計すべきか？
• RQ4 広範なデータリーバーブの使用がもたらす潜在的な予期しない結果、特にAIパフォーマンスやプラットフォームエコシステムに及ぼす二次的効果は何か？
• RQ5 データポータビリティおよび透明性に関する法制度は、データストライキやCDCといったデータリーバーブ戦略の有効性をどのように高められるか？

主な発見

• AIおよびレコメンデーションシステムがユーザー生成データに極めて依存していることに鑑み、データリーバーブは公共の影響力として強力かつ未利用のメカニズムである。
• ユーザーが一斉にデータ寄与を停止する「データストライキ」は、特に複数のプラットフォームで連携された場合、データドリブンシステムの効果を著しく低下させることができる。
• 戦略的に適用されたデータ汚染は、ユーザーのフィードバックやラベリングに依存するバイアスや有害なAIモデルを攪乱することができる。
• 意図的に誤ったまたは代表的でないデータを提供する「意識的なデータ寄与」は、監視や差別的慣行に挑戦するために使用できる。
• データポータビリティや削除権法といった政策的介入は、データリーバーブ行動のスケーラビリティと正当性を著しく高めることができる。
• 集団的影響を可視化するツールや、ボイコット支援技術にインspiredしたレバーの自動化を支援する技術的ツールは、参加の障壁を低下させ、一般市民の関与を促進する。