[论文解读] Artificial intelligence, human rights, democracy, and the rule of law: a primer

David Leslie, Christopher Burr+4 more|arXiv (Cornell University)|Mar 26, 2021

Legal and Policy IssuesSocial Sciences被引用 17

一句话总结

本简介概述了欧洲委员会关于为人工智能制定法律框架的可行性研究，该研究以人权、民主和法治为基础。它建议以现有的国际人权法为基础，制定具有约束力和非约束力的法律文书，以应对人工智能的风险与机遇，旨在通过多利益相关方参与，引导包容性的政策制定。

ABSTRACT

In September 2019, the Council of Europe's Committee of Ministers adopted the terms of reference for the Ad Hoc Committee on Artificial Intelligence (CAHAI). The CAHAI is charged with examining the feasibility and potential elements of a legal framework for the design, development, and deployment of AI systems that accord with Council of Europe standards across the interrelated areas of human rights, democracy, and the rule of law. As a first and necessary step in carrying out this responsibility, the CAHAI's Feasibility Study, adopted by its plenary in December 2020, has explored options for an international legal response that fills existing gaps in legislation and tailors the use of binding and non-binding legal instruments to the specific risks and opportunities presented by AI systems. The Study examines how the fundamental rights and freedoms that are already codified in international human rights law can be used as the basis for such a legal framework. The purpose of this primer is to introduce the main concepts and principles presented in the CAHAI's Feasibility Study for a general, non-technical audience. It also aims to provide some background information on the areas of AI innovation, human rights law, technology policy, and compliance mechanisms covered therein. In keeping with the Council of Europe's commitment to broad multi-stakeholder consultations, outreach, and engagement, this primer has been designed to help facilitate the meaningful and informed participation of an inclusive group of stakeholders as the CAHAI seeks feedback and guidance regarding the essential issues raised by the Feasibility Study.

研究动机与目标

• 为广泛受众提供一份非技术性的欧洲委员会人工智能治理可行性研究概述。
• 阐明现有国际人权法如何可作为监管人工智能系统的基石。
• 通过解释人工智能、人权和法治的关键概念，支持包容性的利益相关方参与。
• 识别现行立法中的空白，并针对人工智能的开发与部署，提出量身定制的法律文书——具有约束力和非约束力的两种形式。
• 促进来自不同利益相关方对可行性研究中提出核心问题的反馈与指导。

提出的方法

• 基于欧洲委员会的职权范围和国际人权法，本简介综合了现有法律文书中的原则。
• 它将人工智能系统风险与机遇映射到既定的人权标准，如非歧视、隐私和正当程序。
• 该方法强调人权、民主与法治在人工智能治理中的相互依存关系。
• 它概述了合规机制，包括对人工智能系统的监督、透明度和问责制。
• 本简介采用通俗易懂的语言和结构化解释，以确保广泛利益相关方的理解与参与。
• 它整合了多利益相关方磋商的反馈，以确保未来人工智能政策制定的包容性与合法性。

实验结果

研究问题

• RQ1 如何将现有的国际人权法应用于监管人工智能系统？
• RQ2 人工智能在人权、民主与法治方面带来了哪些主要风险与机遇？
• RQ3 针对人工智能相关挑战，最合适的法律文书类型（具有约束力或非约束力）是什么？
• RQ4 如何通过包容性的多利益相关方进程提升人工智能治理框架的合法性和有效性？
• RQ5 透明度、问责制与非歧视等原则在构建公正的人工智能生态系统中发挥什么作用？

主要发现

• 可行性研究识别出现行立法在人工智能治理方面存在显著空白，特别是在跨境和系统性风险监管方面。
• 现有的国际人权法为人的人工智能法律框架的制定提供了坚实基础，尤其在保护基本权利方面。
• 该研究确认，人权、民主与法治在人工智能治理中是相互强化的原则。
• 欧洲委员会的方法根据风险评估，在必要时优先采用具有约束力的法律文书，而在适当情况下采用非约束力的指导文件。
• 利益相关方参与对于确保人工智能法规制定的合法性、透明度与有效性至关重要。
• 本简介成功使非技术受众理解人工智能复杂的法律与伦理维度，促进了更广泛的社会参与政策制定。