[論文レビュー] Transparency, Fairness, Data Protection, Neutrality: Data Management Challenges in the Face of New Regulation

Serge Abiteboul, Julia Stoyanovich|arXiv (Cornell University)|Mar 8, 2019

Privacy-Preserving Technologies in Data参考文献 21被引用数 6

ひとこと要約

本論文は、透明性、公平性、データ保護、中立性といった法的・倫理的規範を、『責任ある設計』を通じてデータ駆動型システムの初期段階から統合すべきだと主張する。GDPR や NYC の ADS 法、ネットネutrality といった規制が引き起こす主な技術的課題を特定し、データ管理分野がこれらの原則を後から追加するのではなく、コアな要件として統合するよう呼びかけている。

ABSTRACT

The data revolution continues to transform every sector of science, industry and government. Due to the incredible impact of data-driven technology on society, we are becoming increasingly aware of the imperative to use data and algorithms responsibly -- in accordance with laws and ethical norms. In this article we discuss three recent regulatory frameworks: the European Union's General Data Protection Regulation (GDPR), the New York City Automated Decisions Systems (ADS) Law, and the Net Neutrality principle, that aim to protect the rights of individuals who are impacted by data collection and analysis. These frameworks are prominent examples of a global trend: Governments are starting to recognize the need to regulate data-driven algorithmic technology. Our goal in this paper is to bring these regulatory frameworks to the attention of the data management community, and to underscore the technical challenges they raise and which we, as a community, are well-equipped to address. The main take-away of this article is that legal and ethical norms cannot be incorporated into data-driven systems as an afterthought. Rather, we must think in terms of responsibility by design, viewing it as a systems requirement.

研究の動機と目的

• プライバシー、公平性、透明性に関する社会的懸念が高まる中、データ駆動型システムに増す規制圧力を浮き彫りにすること。
• GDPR や NYC の ADS 法、ネットネutrality といった最近の規制が、データ管理システムに生じさせる技術的課題を特定すること。
• データ管理コミュニティに、法的・倫理的規範を後から追加するのではなく、最初からシステム要件として扱うよう促すこと。
• 効率性と公平性、責任、個人の権利の両立を図るための、システム設計における文化的・技術的転換の必要性を強調すること。
• データリテラシーと透明性メカニズムによるユーザーのエンパワーが、上位からの規制と相補的であることを提言すること。

提案手法

• GDPR（EU）、NYC の自動意思決定システム法、ネットネutrality の原則を含む規制枠組みを分析し、技術的要件を抽出すること。
• データの移転可能権、是正権、消去権、説明権といった法的権利を、技術的システム設計の課題にマッピングすること。
• 規制に起因する核心的なデータ管理問題として、データの透明性、公平性の監査、システム間相互運用性に焦点を当てる。
• 実世界のデータシステムにおいて「説明権」と「データ移転可能権」を実装する可能性を検討すること。
• データ統合および知識表現技術が、クロスプラットフォームでのデータ移動性とネトワーク中立性の検証を可能にする必要性を提言すること。
• データ移転可能性和システム相互運用性を支援するため、標準的で安定したデータエクスポート形式の役割を強調すること。

実験結果

リサーチクエスチョン

• RQ1 GDPR が保障するデータ移転可能権、是正権、消去権を満たすために、どのようにデータ管理システムをアーキテクチャ設計すべきか？
• RQ2 NYC の ADS 法における『説明権』を実現するために、個人が自動意思決定の説明を要求し受けるために必要な技術的メカニズムは何か？
• RQ3 データ処理および推薦システムにおける中立性をどのように確保できるか。特に、バイアスや優遇措置の可能性がある状況において。
• RQ4 データ統合および知識表現は、クロスプラットフォームでのデータ移転可能性和透明性を実現するために果たす役割は何か？
• RQ5 データ管理コミュニティは、ネットネutrality およびその他の新たな形態の中立性（例：プラットフォーム中立性やデバイス中立性）の適合性を検証するために、どのように貢献できるか？

主な発見

• 透明性、公平性、データ保護といった法的・倫理的規範は、設計段階からデータシステムに埋め込まれるべきであり、後から追加すべきではない。
• GDPR の『データ移転可能権』は、データフォーマットの標準化、データ範囲（推論されたデータを含む）の特定、ターゲットシステムとの互換性といった、顕著な技術的課題を引き起こす。
• NYC の ADS 法における『説明権』を実装するには、アルゴリズム的意思決定の監査可能性と解釈可能性をシステムが支援する必要があり、特にバイアスや差別のの検出に不可欠である。
• ネットネutrality の適合性を検証することは、測定のばらつきや文脈依存性のため、技術的に複雑であり、ネットワーク性能評価のための新しい手法が求められる。
• プラットフォーム中立性やデバイス中立性といった新たな形の中立性は、推薦システムやアプリストアにおける優遇措置を検出するための、新たな技術的検証メカニズムを必要とする。
• データ管理コミュニティは、データ統合、知識表現、システムレベルの責任の確保の分野における専門性を活かして、これらの課題に対応できる。