[論文レビュー] EU regulations on algorithmic decision-making and a "right to explanation".

Bryce Goodman, Seth Flaxman|arXiv (Cornell University)|Jun 28, 2016

Artificial Intelligence in Healthcare and Education被引用数 137

ひとこと要約

本論文は、EUの一般データ保護規則（GDPR）が機械学習アルゴリズムに与える影響を検討し、特に自動的個人意思決定の制限と「説明の権利」の導入を扱う。規制が産業に対して大きな課題をもたらす一方で、コンピュータ科学者が新たな設計および評価フレームワークを通じてより公平で解釈可能なアルゴリズムを開発する機会を創出すると主張する。

ABSTRACT

We summarize the potential impact that the European Union's new General Data Protection Regulation will have on the routine use of machine learning algorithms. Slated to take effect as law across the EU in 2018, it will restrict automated individual decision-making (that is, algorithms that make decisions based on user-level predictors) which significantly affect users. The law will also effectively create a right to explanation, whereby a user can ask for an explanation of an algorithmic decision that was made about them. We argue that while this law will pose large challenges for industry, it highlights opportunities for computer scientists to take the lead in designing algorithms and evaluation frameworks which avoid discrimination and enable explanation.

研究の動機と目的

• EUのGDPRが個人に顕著な影響を及ぼす自動意思決定システムをどのように規制するかを分析すること。
• 実務における機械学習システムに与える「説明の権利」の意味を検討すること。
• 不透明なアルゴリズムの導入において産業が直面するGDPRの課題を同定すること。
• コンピュータ科学者が説明可能で差別ののないアルゴリズムを設計する上で果たせる役割を強調すること。
• 規制的制約下で透明性と公平性を支援する新しいアルゴリズムフレームワークの開発を提案すること。

提案手法

• 自動的意思決定に関する要件を特定するため、特にGDPRの第22条および第13～15条の法的文言を分析すること。
• 規制要件を機械学習システムにおける技術的制約にマッピングすること。
• コンピュータ科学者が説明可能であることが内在するアルゴリズムを設計すべきであると提言すること。
• 公平性、透明性、説明可能性を評価するフレームワークを提唱すること。
• 説明生成を機械学習パイプラインのコアコンponentとして統合するよう勧告すること。
• EU法下で準拠可能で倫理的なAIシステムを開発する上で、コンピュータ科学が中心的役割を果たすべきであると位置づけること。

実験結果

リサーチクエスチョン

• RQ1 GDPRは、機械学習システムにおける自動的個人意思決定をどのように制限するか？
• RQ2 GDPR下で、ユーザーおよび開発者にとって「説明の権利」は具体的に何を意味するか？
• RQ3 産業および研究者がGDPRの透明性要件に準拠する際に直面する技術的課題は何か？
• RQ4 コンピュータ科学者は、規制的制約下でどのように説明可能で公平な機械学習システムを構築に貢献できるか？
• RQ5 GDPRの透明性および差別の禁止原則への準拠を支援するため、どのような新しいアルゴリズム的および評価フレームワークが必要か？

主な発見

• GDPRは、個人に顕著な影響を及ぼす自動的意思決定を制限する。特に、個人データに基づく場合に該当する。
• 規制は、個人が自身についてのアルゴリズム意思決定について説明を受ける法的権利を確立している。
• 「説明の権利」への準拠は、機械学習モデルの設計および展開方法に顕著な変更を要する。
• 規制は、本質的に解釈可能で公平なアルゴリズムを開発するようコンピュータ科学者に強いインcentiveを提供する。
• 研究者が、透明性を確保しバイアスを低減する自動化システムの評価フレームワークを主導する機会が拡大している。
• GDPRの要件は、機械学習ライフサイクルに説明可能性を埋め込む新しい技術的アプローチの必要性を浮き彫りにしている。