[論文レビュー] The risks of risk-based AI regulation: taking liability seriously

Martin Kretschmer, Tobias Kretschmer+2 more|arXiv (Cornell University)|Nov 3, 2023

Ethics and Social Impacts of AI被引用数 4

ひとこと要約

本稿は、EUのリスクベースAI法が、データ品質や人的監視といった事前規制措置に依存しすぎているとして批判し、危害が発生した後に開発者や導入者を責任追及する責任帰属型のアプローチを提案する。内部的（システム的）および外部的（外部要因）なリスク要因を区別し、それぞれに応じて責任を割り当てることで、規制の事前的義務よりも、遵守、透明性、システムの再訓練を促進する責任の実施がより効果的であると主張する。

ABSTRACT

The development and regulation of multi-purpose, large "foundation models" of AI seems to have reached a critical stage, with major investments and new applications announced every other day. Some experts are calling for a moratorium on the training of AI systems more powerful than GPT-4. Legislators globally compete to set the blueprint for a new regulatory regime. This paper analyses the most advanced legal proposal, the European Union's AI Act currently in the stage of final "trilogue" negotiations between the EU institutions. This legislation will likely have extra-territorial implications, sometimes called "the Brussels effect". It also constitutes a radical departure from conventional information and communications technology policy by regulating AI ex-ante through a risk-based approach that seeks to prevent certain harmful outcomes based on product safety principles. We offer a review and critique, specifically discussing the AI Act's problematic obligations regarding data quality and human oversight. Our proposal is to take liability seriously as the key regulatory mechanism. This signals to industry that if a breach of law occurs, firms are required to know in particular what their inputs were and how to retrain the system to remedy the breach. Moreover, we suggest differentiating between endogenous and exogenous sources of potential harm, which can be mitigated by carefully allocating liability between developers and deployers of AI technology.

研究の動機と目的

• EUのリスクベースAI規制モデル、特にAI法におけるデータ品質および人的監視に関する事前義務を検証すること。
• AIシステムの規制の中心的メカニズムとして、事前規制ではなく責任を採用すべきであることを主張すること。
• AIの損害が内部的（システム的）または外部的（外部要因）な要因に起因するかを区別し、より的確な規制的配分を可能にすること。
• 責任の実施が、損害発生後に入力の把握やシステムの再訓練を促進する開発者をより効果的に動機づけると提言すること。
• 事前規制から、損害発生後の責任帰属に基づくアプローチへの移行を提唱すること。

提案手法

• EU AI法のリスクベースの枠組みと、データ品質および人的監視に関する義務を分析すること。
• デジタル技術分野における従来の事後責任モデルと、EUの事前規制モデルを比較すること。
• 損害発生後にのみ企業が責任を問われる責任ベースの規制モデルを提唱すること。
• AIの損害が開発関連（内部的）または導入／環境関連（外部的）な要因に起因するかを区別する概念を導入すること。
• リスクの発生源に応じて責任を割り当てることで、適切なインcentivesと責任の確保を図ることを提言すること。
• 製品責任および通知・削除手続きなどの既存の法的枠組みを参考に、提案する責任モデルを構築すること。

Figure 1: The EU’s risk-based approach to AI regulation

実験結果

リサーチクエスチョン

• RQ1 EU AI法のリスクベースで事前規制を行う枠組みは、デジタル技術分野における従来の事後責任モデルとどのように異なるか？
• RQ2 AI法におけるデータ品質および人的監視の義務付けが、予期しない結果をもたらす可能性は何か？
• RQ3 なぜ責任が、AI開発・導入における事前規制よりも効果的な規制メカニズムとなるのか？
• RQ4 損害が内部的（システム的）または外部的（外部要因）な要因に起因するかに応じて、責任をどのように区別できるか？
• RQ5 責任が、損害発生後に開発者がシステムを特定・再訓練できるようにするために果たすべき役割は何か？

主な発見

• EU AI法のリスクベースの手法、特にデータ品質および人的監視に関する義務は、意味的なリスク低減を保証しないまま、過剰なコンプライアンス負担をもたらす可能性がある。
• 製品安全の原則に基づくAIの事前規制は、長年にわたりデジタル政策の慣行である事後責任の原則から逸脱しており、これは歴史的にもイノベーションを支援してきた。
• 適切に設計された責任制度は、事前規制よりも、開発者が入力を追跡し、損害発生後にシステムを再訓練する動機をより強く与える。
• 内部的および外部的損害要因の区別により、開発者と導入者との間で責任をより的確に割り当てることができる。
• 現在のAI法の枠組みは、規制的コントロールを重視することで、イノベーションと透明性の両方を損なうリスクをはらんでいる。
• 責任ベースのモデルは、既存の法的原則と整合し、開発者に事前コンプライアンス義務を負わせることなく、システム全体の責任を高めることができる。