[논문 리뷰] Addressing the regulatory gap: moving towards an EU AI audit ecosystem beyond the AI Act by including civil society

David Hartmann, José Renato Laranjeira de Pereira외 2명|arXiv (Cornell University)|2024. 02. 26.

Regulation and Compliance Studies인용 수 7

한 줄 요약

본 논문은 EU DSA와 AI Act가 아직 완전한 AI 감사 생태계를 구축하지 못한다고 주장하며 규제 격차를 강조하고, 효과적인 감독을 보장하기 위해 연구자 및 시민 사회에 의한 제3자 감사와 데이터/모델 접근을 옹호한다.

ABSTRACT

The European legislature has proposed the Digital Services Act (DSA) and Artificial Intelligence Act (AIA) to regulate platforms and Artificial Intelligence (AI) products. We review to what extent third-party audits are part of both laws and how is access to information on models and the data provided. By considering the value of third-party audits and third-party data access in an audit ecosystem, we identify a regulatory gap in that the AIA does not provide access to data for researchers and civil society. Our contributions to the literature include: (1) Defining an AI audit ecosystem incorporating compliance and oversight. (2) Highlighting a regulatory gap within the DSA and AIA regulatory framework, preventing the establishment of an AI audit ecosystem that has effective oversight by civil society and academia. (3) Emphasizing that third-party audits by research and civil society must be part of that ecosystem, we call for AIA amendments and delegated acts to include data and model access for certain AI products. Furthermore, we call for the DSA to provide NGOs and investigative journalists with data access to platforms by delegated acts and for adaptions and amendments of the AIA to provide third-party audits and data and model access, at least for high-risk systems. Regulations modeled after EU AI regulations should enable data access and third-party audits, fostering an AI audit ecosystem that promotes compliance and oversight mechanisms.

연구 동기 및 목표

• 컴플라이언스와 감독을 고려한 AI 감사 생태계를 정의한다.
• AI 감사 생태계를 저해하는 DSA와 AI Act의 규제 격차를 식별한다.
• 특정 AI 제품에 대해 AI Act에서 제3자 감사와 데이터/모델 접근을 포함해야 한다고 주장한다.

제안 방법

• 감사 및 데이터 접근과 관련된 DSA 및 AI Act 조항을 검토하고 종합한다.
• 기존 문헌 및 규제 프레임워크를 바탕으로 감사 유형과 감사관 역할을 정의한다.
• 제3자 감사 사례 연구를 분석하고 EU 감사 생태계에 대한 시사점을 도출한다.
• 연구자와 시민 사회의 데이터 접근 및 제3자 감사를 가능하게 하는 규제적 적응을 주장한다.

실험 결과

연구 질문

• RQ1 DSA와 AI Act가 EU AI 감사 생태계를 구축하기에 충분한가?
• RQ2 연구자와 시민 사회의 제3자 감사가 책임성과 감독에서 어떤 역할을 하는가?
• RQ3 고위험 AI 시스템에 대해 효과적인 제3자 감사를 가능하게 하려면 어떤 데이터 및 모델 접근이 제공되어야 하는가?

주요 결과

• 연구자와 시민 사회의 제3자 감사는 작동하는 AI 감사 생태계에 필수적이다.
• 현행 DSA와 AI Act가 데이터 및 모델 접근의 격차로 인해 자동으로 AI 감사 생태계를 만들지 못한다.
• 의미 있는 제3자 감사를 가능하게 하려면 특정 AI 제품에 대해 데이터 및 모델 접근을 제공하도록 AI Act를 개정해야 한다.
• DSA는 위임 법령을 통해 NGOs와 탐사 저널리스트가 플랫폼 데이터에 접근할 수 있도록 해야 한다.