[論文レビュー] Defining the scope of AI regulations

Jonas Schuett|arXiv (Cornell University)|Aug 26, 2019

Ethics and Social Impacts of AI被引用数 7

ひとこと要約

この論文は、法的定義において『人工知能』という用語に依存すべきでないと主張している。なぜなら、その用語は曖昧で法的明確性に欠けるからである。代わりに、特定の技術的手法（例：強化学習）、応用分野（例：顔認識）、能力（例：物理的相互作用）に焦点を当てたリスクベースの規制アプローチを提案している。このアプローチは、法的定義の要件をよりよく満たしており、高度なAIシステムに対しても適応可能である。

ABSTRACT

The paper argues that the material scope of AI regulations should not rely on the term "artificial intelligence (AI)". The argument is developed by proposing a number of requirements for legal definitions, surveying existing AI definitions, and then discussing the extent to which they meet the proposed requirements. It is shown that existing definitions of AI do not meet the most important requirements for legal definitions. Next, the paper argues that a risk-based approach would be preferable. Rather than using the term AI, policy makers should focus on the specific risks they want to reduce. It is shown that the requirements for legal definitions can be better met by defining the main sources of relevant risks: certain technical approaches (e.g. reinforcement learning), applications (e.g. facial recognition), and capabilities (e.g. the ability to physically interact with the environment). Finally, the paper discusses the extent to which this approach can also be applied to more advanced AI systems.

研究の動機と目的

• 法的規制範囲の定義において『人工知能』という用語に依存することを挑戦すること。
• AI規制の文脈において、有効な法的定義が満たすべき主要な要件を特定・評価すること。
• 既存のAI定義が、明確性、正確性、実効性という法的基準を満たしていない点を評価すること。
• AI規制の実質的範囲を定義するためのリスクベースの代替枠組みを提唱すること。
• この枠組みが高度AIや汎用人工知能（AGI）システムに適用可能かどうかを検討すること。

提案手法

• 明確性、正確性、一貫性といった法的定義基準に基づいて、既存のAI定義を分析すること。
• 学術的・産業的・政策的出典からの主要なAI定義を調査し、法的適合性を評価すること。
• AIをカテゴリとして定義するのではなく、リスクの源（技術的手法、応用分野、能力）に焦点を当てる移行を提唱すること。
• 強化学習のような技術的手法や、顔認識のような応用分野が、より安定した規制的基準として機能する理由を評価すること。
• 意図と能力の閾値に注目しながら、仮想的および出現中のAGIシステムにリスクベースの枠組みを適用すること。
• 包括的条項や改訂スケジュールなどのメカニズムを通じて、将来にわたっても適用可能な範囲定義を実現する方法を提言すること。

実験結果

リサーチクエスチョン

• RQ1 なぜ『人工知能』という用語は、AI規制の実質的範囲を定義するのに不適切なのか？
• RQ2 有効なAI規制の法的定義が満たすべき基準とは何か？
• RQ3 既存のAI定義は、法的定義に求められる要件をどの程度満たしているか？
• RQ4 『AI』という用語に依存するのではなく、リスクベースのアプローチが、AI規制の正確性と実効性をどのように向上させられるか？
• RQ5 提唱されたリスクベースの枠組みは、高度AIや汎用人工知能（AGI）システムの規制に拡張可能か？

主な発見

• 既存のAI定義は、明確性、正確性、一貫性といった法的定義の核となる要件を満たしておらず、規制用途には不適切である。
• 『人工知能』という用語はあまりに曖昧で文脈依存的であるため、法的範囲定義の根拠としては信頼できない。
• 強化学習や顔認識、物理的相互作用能力といった特定のリスク源に注目することで、より安定的かつ実効性のある規制基準が得られる。
• リスクベースのアプローチはスケーラブルで柔軟性があり、委任法やサジット条項などのメカニズムを通じて将来の更新が可能である。
• 自己改善や自律的意思決定といった能力の開発を意図するかどうかに注目することで、この枠組みは高度AIシステムへと拡張可能である。
• 欧州委員会のAI法は、技術の一覧や高リスク応用分野のリストを更新するための委任権を活用することで、すでにこのアプローチの一部を実装している。