[論文レビュー] The European AI Liability Directives -- Critique of a Half-Hearted Approach and Lessons for the Future

Philipp Hacker|arXiv (Cornell University)|Nov 25, 2022

Ethics and Social Impacts of AI被引用数 21

ひとこと要約

本論文は、EUが提案するAI責任指令を半端なアプローチと批判し、総合的で革新を支援し、持続可能なAI規制のための修正案と将来のロードマップを提示する。

ABSTRACT

As ChatGPT et al. conquer the world, the optimal liability framework for AI systems remains an unsolved problem across the globe. In a much-anticipated move, the European Commission advanced two proposals outlining the European approach to AI liability in September 2022: a novel AI Liability Directive and a revision of the Product Liability Directive. They constitute the final cornerstone of EU AI regulation. Crucially, the liability proposals and the EU AI Act are inherently intertwined: the latter does not contain any individual rights of affected persons, and the former lack specific, substantive rules on AI development and deployment. Taken together, these acts may well trigger a Brussels Effect in AI regulation, with significant consequences for the US and beyond. This paper makes three novel contributions. First, it examines in detail the Commission proposals and shows that, while making steps in the right direction, they ultimately represent a half-hearted approach: if enacted as foreseen, AI liability in the EU will primarily rest on disclosure of evidence mechanisms and a set of narrowly defined presumptions concerning fault, defectiveness and causality. Hence, second, the article suggests amendments, which are collected in an Annex at the end of the paper. Third, based on an analysis of the key risks AI poses, the final part of the paper maps out a road for the future of AI liability and regulation, in the EU and beyond. This includes: a comprehensive framework for AI liability; provisions to support innovation; an extension to non-discrimination/algorithmic fairness, as well as explainable AI; and sustainability. I propose to jump-start sustainable AI regulation via sustainability impact assessments in the AI Act and sustainable design defects in the liability regime. In this way, the law may help spur not only fair AI and XAI, but potentially also sustainable AI (SAI).

研究の動機と目的

• 欧州委員会のAI責任指令と製品責任指令の提案と、それらとAI法の整合性を評価する。
• 提案が実質的なAI固有規則ではなく、証拠開示と狭い推定に依拠するギャップを特定する。
• イノベーション、公平性、説明可能性、持続可能性を支援するAI責任の修正案と将来志向の規制方針を提案する。

提案手法

• 欧州委員会の提案とAI法との相互関係の詳細な分析。
• 証拠開示と過失・欠陥・因果関係に関する限定的推定への依拠に対する批判的評価。
• 特定されたギャップに対応する具体的な修正案を附属書で提示。
• 主要なAIリスク領域の後方志向の統合を行い、将来のEUおよび世界的な責任フレームワークを描く。

実験結果

リサーチクエスチョン

• RQ1 現在作成中のEU AI責任指令と製品責任指令の主な制約は何か？
• RQ2 EUの責任枠組みをどのように拡張してAI固有のリスク・公平性・説明可能性・持続可能性をより適切にカバーできるか？
• RQ3 半端なアプローチからAIの総合的な責任体制へ移行するために、どのような修正が必要か？
• RQ4 EU内外でAI責任規制の将来の道筋は、どのように革新と公衆の信頼を最も促進するか？

主な発見

• 提案は正しい方向への一歩を踏み出しているが、半端なアプローチとして特徴付けられる。
• 提案におけるAI責任は、証拠開示と過失・欠陥・因果関係について狭く定義された推定に大きく依存する。
• 附属書には特定されたギャップに対処する具体的な修正案が示されている。
• 将来志向のロードマップは、AI責任の総合的な枠組み、革新の支援、差別／アルゴリズム公平性と説明可能性の拡張を推奨する。
• 著者は、AI規制と責任に持続可能性の考慮を組み込むべきだと主張し、持続可能性影響評価や持続可能な設計欠陥を含む。