[論文レビュー] Reviving Purpose Limitation and Data Minimisation in Data-Driven Systems

Asia J. Biega, Michèle Finck|arXiv (Cornell University)|Jan 15, 2021

Digitalization, Law, and Regulation被引用数 6

ひとこと要約

本論文は、現代のデータ駆動型システムにおける、個人情報保護の根幹をなすデータ最小化および目的制限の実装可能性を調査している。技術的・法的分析を通じて、技術的・規制的障壁を特定し、予期しないトレードオフを明らかにし、EUにおける法的原則に沿ったデータ実務を整えるために、規制当局、データコントローラー、AI研究者に実行可能なインサイトを提供する。

ABSTRACT

This paper determines whether the two core data protection principles of data minimisation and purpose limitation can be meaningfully implemented in data-driven systems. While contemporary data processing practices appear to stand at odds with these principles, we demonstrate that systems could technically use much less data than they currently do. This observation is a starting point for our detailed techno-legal analysis uncovering obstacles that stand in the way of meaningful implementation and compliance as well as exemplifying unexpected trade-offs which emerge where data protection law is applied in practice. Our analysis seeks to inform debates about the impact of data protection on the development of artificial intelligence in the European Union, offering practical action points for data controllers, regulators, and researchers.

研究の動機と目的

• データ最小化および目的制限が現代のデータ駆動型システムに意味的に実装可能かどうかを評価すること。
• 現実のデータ処理において、これらの原則に準拠するのを妨げる技術的・法的・実務的障壁を同定すること。
• 人工知能および機械学習システムにデータ保護法を適用する際に生じる予期しないトレードオフを明らかにすること。
• データコントローラー、規制当局、研究者にとって実行可能な提言を提供し、GDPRの原則に沿ったデータ実務を整えること。
• ヨーロッパ連合における人工知能の発展を形作るうえで、データ保護の役割についての議論を支援すること。

提案手法

• 主にGDPRを含む法的枠組みと、データ駆動型アプリケーションにおける技術的システム設計を統合したテクノロジー・リーガル分析を実施する。
• 現実のデータ処理パイプラインを分析し、実際のデータ量と法的に必要な量の差を評価する。
• システムアーキテクチャを評価し、機能に影響を与えることなくどれだけデータ量を削減できるかを特定する。
• 規制解釈と執行実務を検討し、コンプライアンスのギャップや一貫性の欠如を特定する。
• 事例研究およびシステムレベルの設計パターンを用いて、データ最小化および目的制限の実現可能な実装を示す。
• データコントローラーが実務でこれらの原則を実装できるよう、設計原則および実装戦略を提言する。

実験結果

リサーチクエスチョン

• RQ1 データ駆動型システムは、機能を維持しながらどれほど技術的にデータ収集量を削減できるか。
• RQ2 現代のAIシステムにおいて、データ最小化および目的制限を実装するにあたり、主な技術的・法的障壁は何か。
• RQ3 規制解釈と執行実務は、これらの原則の実務的実現可能性にどのように影響するか。
• RQ4 機械学習パイプラインにデータ保護原則を適用する際に、どのような予期しないトレードオフが生じるか。
• RQ5 データコントローラー、規制当局、研究者が、データ最小化および目的制限へのコンプライアンスを強化するために採用可能な実行可能な戦略は何か。

主な発見

• 多くのデータ駆動型システムは、その目的に必要な量よりもはるかに多くのデータを収集しており、データ最小化の余地が著しくあることが示された。
• 多くのシステムにおいて、データ量の削減は技術的に実現可能であるが、法的および組織的制約がその実現を妨げている。
• 規制の曇りと一貫性の欠如する執行が、データ最小化原則への能動的コンプライアンスを妨げる不確実性を生み出している。
• 動的で学習ベースのシステムにおいて目的制限を適用すると、プライバシー、パフォーマンス、システムの適応性の間で複雑なトレードオフが生じる。
• データコントローラーは、特に機械学習パイプラインにおいて、これらの原則を実務で実装するための明確な技術的ガイダンスを欠いている。
• 本研究は、実世界のシステムにおいてGDPR要件に沿ったデータ処理を整えるために役立つ、実行可能な設計パターンとコンプライアンス戦略を同定した。