[論文レビュー] Addressing the regulatory gap: moving towards an EU AI audit ecosystem beyond the AI Act by including civil society

David Hartmann, José Renato Laranjeira de Pereira+2 more|arXiv (Cornell University)|Feb 26, 2024

Regulation and Compliance Studies被引用数 7

ひとこと要約

本論文は、EU DSAとAI Actが現時点で包括的なAI監査エコシステムを構築していないと主張し、規制のギャップを指摘するとともに、効果的な監督を確保するために研究者や市民社会による第三者監査およびデータ/モデルアクセスを提唱している。

ABSTRACT

The European legislature has proposed the Digital Services Act (DSA) and Artificial Intelligence Act (AIA) to regulate platforms and Artificial Intelligence (AI) products. We review to what extent third-party audits are part of both laws and how is access to information on models and the data provided. By considering the value of third-party audits and third-party data access in an audit ecosystem, we identify a regulatory gap in that the AIA does not provide access to data for researchers and civil society. Our contributions to the literature include: (1) Defining an AI audit ecosystem incorporating compliance and oversight. (2) Highlighting a regulatory gap within the DSA and AIA regulatory framework, preventing the establishment of an AI audit ecosystem that has effective oversight by civil society and academia. (3) Emphasizing that third-party audits by research and civil society must be part of that ecosystem, we call for AIA amendments and delegated acts to include data and model access for certain AI products. Furthermore, we call for the DSA to provide NGOs and investigative journalists with data access to platforms by delegated acts and for adaptions and amendments of the AIA to provide third-party audits and data and model access, at least for high-risk systems. Regulations modeled after EU AI regulations should enable data access and third-party audits, fostering an AI audit ecosystem that promotes compliance and oversight mechanisms.

研究の動機と目的

• 法令遵守と監督を考慮したAI監査エコシステムを定義する。
• AI監査エコシステムを妨げるDSAとAI Actの規制ギャップを特定する。
• AI Actにおいて特定のAI製品に対する第三者監査とデータ/モデルアクセスの包含を主張する。

提案手法

• 監査とデータアクセスに関連するDSAおよびAI Actの規定をレビューし統合する。
• 既存の文献と規制枠組みに基づいて監査の類型と監査人の役割を定義する。
• 第三者監査の事例分析とEUの監査エコシステムへの示唆を分析する。
• 研究者と市民社会によるデータアクセスと第三者監査を可能にする規制の適応を主張する。

実験結果

リサーチクエスチョン

• RQ1 DSAとAI Actの組み合わせはEUのAI監査エコシステムを確立するのに十分か？
• RQ2 研究者と市民社会による第三者監査は説明責任と監督においてどのような役割を果たすか？
• RQ3 高リスクAIシステムの効果的な第三者監査を可能にするために、どのデータおよびモデルアクセスを提供すべきか？

主な発見

• 研究者と市民社会による第三者監査は機能するAI監査エコシステムにとって不可欠である。
• 現行のDSAとAI Actは、データとモデルアクセスのギャップのため自動的にはAI監査エコシステムを作り出さない。
• AI Actは意味のある第三者監査を可能にするため、特定のAI製品に対するデータとモデルアクセスを提供するように適応されるべきである。
• DSAは委任法を介してNGOと調査ジャーナリストがプラットフォームデータにアクセスできるようにすべきである。