[논문 리뷰] The risks of risk-based AI regulation: taking liability seriously

Martin Kretschmer, Tobias Kretschmer외 2명|arXiv (Cornell University)|2023. 11. 03.

Ethics and Social Impacts of AI인용 수 4

한 줄 요약

이 논문은 EU의 위험 기반 AI 법안이 데이터 품질 및 인간 감시와 같은 사전 규제 조치에 과도하게 의존하고 있음을 비판하며, 손해가 발생한 후에만 개발자와 도입자에 책임을 지게 하는 손해배상 기반 접근 방식을 제안한다. 내재적(체계적) 및 외재적(외부) 위험 원인을 구분하고 이를 바탕으로 손해배상을 배분하면, 사전 규제보다는 위반 후의 책임 강제가 준수, 투명성 및 시스템 재학습을 더 잘 유도할 수 있다.

ABSTRACT

The development and regulation of multi-purpose, large "foundation models" of AI seems to have reached a critical stage, with major investments and new applications announced every other day. Some experts are calling for a moratorium on the training of AI systems more powerful than GPT-4. Legislators globally compete to set the blueprint for a new regulatory regime. This paper analyses the most advanced legal proposal, the European Union's AI Act currently in the stage of final "trilogue" negotiations between the EU institutions. This legislation will likely have extra-territorial implications, sometimes called "the Brussels effect". It also constitutes a radical departure from conventional information and communications technology policy by regulating AI ex-ante through a risk-based approach that seeks to prevent certain harmful outcomes based on product safety principles. We offer a review and critique, specifically discussing the AI Act's problematic obligations regarding data quality and human oversight. Our proposal is to take liability seriously as the key regulatory mechanism. This signals to industry that if a breach of law occurs, firms are required to know in particular what their inputs were and how to retrain the system to remedy the breach. Moreover, we suggest differentiating between endogenous and exogenous sources of potential harm, which can be mitigated by carefully allocating liability between developers and deployers of AI technology.

연구 동기 및 목표

• EU의 위험 기반 AI 규제 모델, 특히 AI 법안이 제시하는 데이터 품질 및 인간 감시에 대한 사전 규제 조건을 도전한다.
• 사전 규제 조건이 아닌 손해배상이 AI 시스템의 핵심 규제 수단이 되어야 한다고 주장한다.
• 내재적(체계적) 및 외재적(외부) 원인에 의한 AI 피해를 구분하여 더 정밀한 규제 배분을 가능하게 한다.
• 손해배상 강제가 개발자가 입력을 파악하고 사고 발생 후 시스템을 재학습하도록 더 잘 유도할 수 있음을 제안한다.
• 사전 규제에서 결과 기반의 책임에 기반한 책임 체제로의 전환을 주장한다.

제안 방법

• EU AI 법안의 위험 기반 프레임워크와 데이터 품질 및 인간 감시 의무를 분석한다.
• 디지털 기술 분야에서의 전통적 사후 손해배상 모델과 EU의 사전 규제 모델을 비교한다.
• 사고 발생 후에만 기업이 책임지게 하는 손해배상 기반 규제 모델을 제안한다.
• AI 피해의 원인을 내재적(개발 관련)과 외재적(배포/환경 관련)으로 나누는 개념을 도입한다.
• 위험 원인이 어디서 비롯되었는지에 따라 손해배상을 배분하여 적절한 인centive와 책임을 확보하도록 권고한다.
• 제품 책임 및 통보 및 삭제 절차와 같은 기존 법적 프레임워크를 바탕으로 제안된 손해배상 모델을 뒷받침한다.

Figure 1: The EU’s risk-based approach to AI regulation

실험 결과

연구 질문

• RQ1 EU AI 법안의 위험 기반 사전 규제 모델은 디지털 기술 분야의 전통적 사후 손해배상 모델과 어떻게 비교되는가?
• RQ2 AI 법안 하에서 데이터 품질 및 인간 감시 의무를 의무화하는 데 따른 부작용은 무엇인가?
• RQ3 왜 손해배상이 AI 개발 및 배포에 대한 사전 규칙보다 더 효과적인 규제 수단인가?
• RQ4 내재적(체계적) 또는 외재적(외부) 원인에서 기인한 피해에 따라 손해배상은 어떻게 구분될 수 있는가?
• RQ5 손해배상은 개발자가 사고 발생 후 입력을 식별하고 시스템을 재학습할 수 있도록 보장하기 위해 어떤 역할을 해야 하는가?

주요 결과

• EU AI 법안의 위험 기반 접근 방식, 특히 데이터 품질 및 인간 감시에 대한 의무 조건은 의미 있는 위험 감소를 보장하지 못하면서도 과도한 준수 부담을 초래할 수 있다.
• 제품 안전 원칙에 기반한 사전 규제 방식은 오랜 기간 동안 디지털 정책의 관례인 사후 손해배상 원칙과 다릅니다. 이는 역사적으로 혁신을 지원해 왔습니다.
• 적절하게 설계된 손해배상 체계는 사전 규칙보다 개발자가 입력을 추적하고 사고 후 시스템을 재학습하도록 더 강력한 동기를 제공합니다.
• 내재적 및 외재적 피해 원인을 구분함으로써 개발자와 도입자 간의 책임을 더 정밀하게 배분할 수 있습니다.
• 현재의 AI 법안 프레임워크는 규제 통제를 책임 체제보다 우선시함으로써 혁신과 투명성을 약화시킬 위험이 있습니다.
• 손해배상 기반 모델은 기존 법적 원칙과 더 잘 부합하며, 사전 준수 의무로 인한 과도한 부담 없이도 시스템 수준의 책임을 향상시킬 수 있습니다.