[논문 리뷰] The European AI Liability Directives -- Critique of a Half-Hearted Approach and Lessons for the Future

Philipp Hacker|arXiv (Cornell University)|2022. 11. 25.

Ethics and Social Impacts of AI인용 수 21

한 줄 요약

본 논문은 EU의 제안된 AI 책임 지침을 미온적인 접근으로 비판하며, 보완책과 포괄적이고 혁신을 지원하며 지속 가능한 AI 규제에 대한 향후 로드맵을 제시한다.

ABSTRACT

As ChatGPT et al. conquer the world, the optimal liability framework for AI systems remains an unsolved problem across the globe. In a much-anticipated move, the European Commission advanced two proposals outlining the European approach to AI liability in September 2022: a novel AI Liability Directive and a revision of the Product Liability Directive. They constitute the final cornerstone of EU AI regulation. Crucially, the liability proposals and the EU AI Act are inherently intertwined: the latter does not contain any individual rights of affected persons, and the former lack specific, substantive rules on AI development and deployment. Taken together, these acts may well trigger a Brussels Effect in AI regulation, with significant consequences for the US and beyond. This paper makes three novel contributions. First, it examines in detail the Commission proposals and shows that, while making steps in the right direction, they ultimately represent a half-hearted approach: if enacted as foreseen, AI liability in the EU will primarily rest on disclosure of evidence mechanisms and a set of narrowly defined presumptions concerning fault, defectiveness and causality. Hence, second, the article suggests amendments, which are collected in an Annex at the end of the paper. Third, based on an analysis of the key risks AI poses, the final part of the paper maps out a road for the future of AI liability and regulation, in the EU and beyond. This includes: a comprehensive framework for AI liability; provisions to support innovation; an extension to non-discrimination/algorithmic fairness, as well as explainable AI; and sustainability. I propose to jump-start sustainable AI regulation via sustainability impact assessments in the AI Act and sustainable design defects in the liability regime. In this way, the law may help spur not only fair AI and XAI, but potentially also sustainable AI (SAI).

연구 동기 및 목표

• 유럽위원회의 AI 책임 지침 및 Product Liability Directive 제안과 AI Act와의 일관성을 평가한다.
• 제안이 실질적인 AI 특화 규칙보다 증거 공개와 제한적 추정에 의존하는 격차를 식별한다.
• 혁신, 공정성, 설명가능성, 지속 가능성을 지지하는 AI 책임에 대한 개정안과 미래지향적 규제 경로를 제안한다.

제안 방법

• 위원회 제안과 AI Act와의 상호 관련성에 대한 상세 분석.
• 제안의 증거 공개 의존과 과실, 결함성, 인과관계에 대한 제한적 추정에 대한 비판적 평가.
• 확인된 격차를 해결하기 위한 구체적 개정안을 부록으로 제공.
• 향후 EU 및 글로벌 책임 체계를 설계하기 위한 주요 AI 위험 영역의 역방향적 종합.

실험 결과

연구 질문

• RQ1 현재 초안으로 작성된 EU AI 책임 및 Product Liability Directive 제안의 주요 한계는 무엇인가?
• RQ2 EU 책임 프레임워크를 어떻게 확장하여 AI 특유의 위험, 공정성, 설명가능성, 지속 가능성을 더 잘 다룰 수 있는가?
• RQ3 미온적인 접근에서 포괄적 AI 책임 체제로 나아가기 위한 필요한 개정은 무엇인가?
• RQ4 EU 및 그 밖의 지역에서 AI 책임 규제의 향후 경로가 어떻게 혁신과 공중 신뢰를 가장 잘 촉진할 수 있는가?

주요 결과

• 제안은 올바른 방향으로의 발걸음을 내딛었으나 미온적 접근으로 간주된다.
• 제안 하의 AI 책임은 증거 공개에 크게 의존하고 과실, 결함성, 인과관계에 대해 좁게 정의된 추정에 의존할 것이다.
• 부록은 식별된 격차를 해결하기 위한 구체적 개정안을 제공한다.
• 향후 로드맵은 AI 책임에 대한 포괄적 프레임워크와 혁신 지원, 차별/알고리즘 공정성 및 설명가능성 확장을 권고한다.
• 저자는 지속 가능성 고려를 AI 규제 및 책임에 통합할 것을 주장하며, 지속 가능성 영향 평가 및 지속 가능한 설계 결함을 포함한다.