[論文レビュー] Artificial intelligence, human rights, democracy, and the rule of law: a primer

David Leslie, Christopher Burr+4 more|arXiv (Cornell University)|Mar 26, 2021

Legal and Policy IssuesSocial Sciences被引用数 17

ひとこと要約

この解説は、人権、民主主義、法治国家の原則に基づいた人工知能（AI）の法的枠組みを構築するための欧州委員会の可能性調査の概要を提示している。この調査は、AIのリスクと機会に対処するための拘束力のあるおよび非拘束的な規範的措置の基礎として、既存の国際的人権法を活用することを提言しており、多様なステークホルダーの参加を促進することで包摂的で効果的な政策立案を支援することを目的としている。

ABSTRACT

In September 2019, the Council of Europe's Committee of Ministers adopted the terms of reference for the Ad Hoc Committee on Artificial Intelligence (CAHAI). The CAHAI is charged with examining the feasibility and potential elements of a legal framework for the design, development, and deployment of AI systems that accord with Council of Europe standards across the interrelated areas of human rights, democracy, and the rule of law. As a first and necessary step in carrying out this responsibility, the CAHAI's Feasibility Study, adopted by its plenary in December 2020, has explored options for an international legal response that fills existing gaps in legislation and tailors the use of binding and non-binding legal instruments to the specific risks and opportunities presented by AI systems. The Study examines how the fundamental rights and freedoms that are already codified in international human rights law can be used as the basis for such a legal framework. The purpose of this primer is to introduce the main concepts and principles presented in the CAHAI's Feasibility Study for a general, non-technical audience. It also aims to provide some background information on the areas of AI innovation, human rights law, technology policy, and compliance mechanisms covered therein. In keeping with the Council of Europe's commitment to broad multi-stakeholder consultations, outreach, and engagement, this primer has been designed to help facilitate the meaningful and informed participation of an inclusive group of stakeholders as the CAHAI seeks feedback and guidance regarding the essential issues raised by the Feasibility Study.

研究の動機と目的

• 広範な聴衆を対象に、欧州委員会のAIガバナンスに関する可能性調査の技術的でない概要を提供すること。
• 既存の国際的人権法がAIシステムの規制にどのように活用できるかを明確にすること。
• AI、人権、法治国家の主要な概念を説明することで、包摂的で多様なステークホルダーの参加を支援すること。
• 現在の法制度におけるギャップを特定し、AIの開発および導入に対応するための、拘束力のあるおよび非拘束的な法的措置を提案すること。
• 可能性調査で提起された核心的問題について、多様なステークホルダーからのフィードバックおよびガイダンスを促進すること。

提案手法

• 欧州委員会の使命および国際的人権法を根拠に、既存の法的規範から得られる原則を統合的に分析する。
• AIシステムのリスクと機会を、差別の禁止、プライバシー、正義の手続きといった、確立された人権基準と照合する。
• AIガバナンスにおける人権、民主主義、法治国家の原則が相互に補完し合うことの重要性を強調する。
• 監視、透明性、責任の原則に基づく、コンプライアンスのメカニズムを提示する。
• 広範なステークホルダーが理解しやすく、参加可能な形で、分かりやすい言語と構造化された説明を用いる。
• 多様なステークホルダーの協議からのフィードバックを統合することで、今後のAI政策形成における包摂性と正当性を確保する。

実験結果

リサーチクエスチョン

• RQ1 既存の国際的人権法は、人工知能システムの規制にどのように適用可能か？
• RQ2 AIが人権、民主主義、法治国家に与える主なリスクと機会は何か？
• RQ3 AI関連の課題に対処するにあたり、拘束力のあるものと非拘束的なもの、それぞれの法的措置の種別として最も適切なものは何か？
• RQ4 包摂的で多様なステークホルダーが参加するプロセスは、AIガバナンス枠組みの正当性と効果性をどのように高めるか？
• RQ5 透明性、責任、差別の禁止といった原則は、公正なAIエコシステムを形成するにあたり、果たす役割は何か？

主な発見

• 可能性調査は、特に国境を越えるリスクおよびシステム的リスクの規制において、現在の法制度に顕著なギャップが存在することを特定した。
• 既存の国際的人権法は、基本的人権を保護する観点から、AIの法的枠組みを構築するにあたり、強固な基盤を提供している。
• 調査は、人権、民主主義、法治国家がAIガバナンスにおいて相互に補完し合う原則であることを確認した。
• 欧州委員会のアプローチは、リスク評価に基づき、必要に応じて拘束力のある法的措置を優先し、適切な場合には非拘束的ガイダンスを採用する。
• ステークホルダーの参加は、AI規制の策定における正当性、透明性、効果性を確保する上で不可欠である。
• この解説は、技術的でない聴衆が複雑な法的・倫理的側面を理解できるようにし、政策立案への広範な参加を促進した。