[论文解读] Defining the scope of AI regulations

Jonas Schuett|arXiv (Cornell University)|Aug 26, 2019

Ethics and Social Impacts of AI被引用 7

一句话总结

本文主张，法律对人工智能的定义不应依赖于术语'artificial intelligence'，因其模糊且缺乏法律精确性。相反，本文提出一种基于风险的监管方法，聚焦于特定技术方法（例如强化学习）、应用（例如面部识别）和能力（例如物理交互），此类定义更符合法律定义的要求，且可适应先进人工智能系统。

ABSTRACT

The paper argues that the material scope of AI regulations should not rely on the term "artificial intelligence (AI)". The argument is developed by proposing a number of requirements for legal definitions, surveying existing AI definitions, and then discussing the extent to which they meet the proposed requirements. It is shown that existing definitions of AI do not meet the most important requirements for legal definitions. Next, the paper argues that a risk-based approach would be preferable. Rather than using the term AI, policy makers should focus on the specific risks they want to reduce. It is shown that the requirements for legal definitions can be better met by defining the main sources of relevant risks: certain technical approaches (e.g. reinforcement learning), applications (e.g. facial recognition), and capabilities (e.g. the ability to physically interact with the environment). Finally, the paper discusses the extent to which this approach can also be applied to more advanced AI systems.

研究动机与目标

• 挑战在监管范围法律定义中依赖术语'artificial intelligence'的做法。
• 识别并评估在AI监管背景下有效法律定义的关键要求。
• 评估现有AI定义在满足法律标准（如清晰性、精确性和可执行性）方面的不足之处。
• 提出一种基于风险的替代性框架，用于定义AI监管的实质范围。
• 探讨该框架在先进人工智能或通用人工智能（AGI）系统中的适用性。

提出的方法

• 将现有AI定义与一系列法律定义标准（包括清晰性、精确性和一致性）进行对比分析。
• 调查学术、产业和政策来源中的主要AI定义，以评估其法律适用性。
• 提出从将AI定义为一类事物，转向定义风险来源（如技术方法、应用和能力）的转变。
• 评估强化学习等技术方法以及面部识别等应用如何作为更稳定的监管基准。
• 将基于风险的框架应用于假设性及新兴的AGI系统，重点关注意图与能力阈值。
• 建议未来可预见的范围定义机制，例如兜底条款和修订时间表。

实验结果

研究问题

• RQ1 为何术语'artificial intelligence'在界定AI监管实质范围方面不充分？
• RQ2 法律定义必须满足哪些标准，才能在AI系统监管中有效？
• RQ3 现有AI定义在多大程度上满足法律定义的要求？
• RQ4 相较于依赖术语'AI'，基于风险的方法如何提升AI监管的精确性与可执行性？
• RQ5 所提出的基于风险的框架能否扩展至监管先进或通用人工智能（AGI）系统？

主要发现

• 现有AI定义未能满足法律定义的核心要求，如清晰性、精确性和一致性，因此不适合用于监管。
• 术语'artificial intelligence'过于模糊且依赖语境，无法作为法律范围定义的可靠基础。
• 通过聚焦于具体风险源（如强化学习、面部识别、物理交互能力）来定义监管，可产生更稳定且可执行的监管标准。
• 基于风险的方法具有可扩展性和适应性，可通过授权立法或终止条款等机制实现未来更新。
• 通过关注开发特定能力（如自我改进或自主决策）的意图，该框架可扩展至先进AI系统。
• 欧盟委员会的《人工智能法案》已通过授权机制更新技术清单和高风险应用清单，部分实施了该方法。