[论文解读] The Dual Imperative: Innovation and Regulation in the AI Era

Paulo Carv�ão|arXiv (Cornell University)|May 23, 2024

Economic Development and Digital TransformationEconomics, Econometrics and Finance被引用 3

一句话总结

本文提出了一套平衡的框架，整合技术创新与针对性监管，以充分发挥人工智能的益处，同时减轻偏见、劳动力市场冲击和存在性威胁等风险。通过将监管激励与更安全、更具可控性的AI系统研究相结合——尤其是超越基础模型的系统——该框架倡导在加速主义与技术放缓之间采取一种务实中间路径。

ABSTRACT

This article addresses the societal costs associated with the lack of regulation in Artificial Intelligence and proposes a framework combining innovation and regulation. Over fifty years of AI research, catalyzed by declining computing costs and the proliferation of data, have propelled AI into the mainstream, promising significant economic benefits. Yet, this rapid adoption underscores risks, from bias amplification and labor disruptions to existential threats posed by autonomous systems. The discourse is polarized between accelerationists, advocating for unfettered technological advancement, and doomers, calling for a slowdown to prevent dystopian outcomes. This piece advocates for a middle path that leverages technical innovation and smart regulation to maximize the benefits of AI while minimizing its risks, offering a pragmatic approach to the responsible progress of AI technology. Technical invention beyond the most capable foundation models is needed to contain catastrophic risks. Regulation is required to create incentives for this research while addressing current issues.

研究动机与目标

• 解决因缺乏监管而导致的人工智能发展所引发的社会成本，包括偏见放大和劳动力市场冲击。
• 调和人工智能政策话语中加速主义与悲观主义叙事之间的对立。
• 提出一种将创新与负责任治理相协调的框架，以确保安全、可扩展的人工智能部署。
• 识别能够激励超越当前基础模型的更安全、更具可控性AI系统研究的监管机制。
• 建立一条务实的人工智能发展路径，平衡经济潜力与风险缓解。

提出的方法

• 提出一种双轨方法，结合人工智能系统的技术创新与针对性的监管干预。
• 主张监管应创造激励机制，推动对超越最先进基础模型的更安全、更稳健AI架构的研究。
• 强调政策在塑造创新轨迹中的作用，以优先考虑风险控制与社会契合。
• 分析人工智能发展的历史趋势，包括计算成本下降与数据泛滥，以指导监管设计。
• 整合计算机科学、社会科学与政策研究的洞见，构建跨学科解决方案。
• 采用规范性政策框架，而非实证建模，基于对人工智能治理的理论与概念分析。

实验结果

研究问题

• RQ1 如何设计监管以激励更安全、更具可控性的人工智能系统研发，同时不抑制创新？
• RQ2 未受监管的人工智能发展所带来的重要社会风险是什么？如何系统性地加以应对？
• RQ3 超越基础模型的技术创新在减轻灾难性人工智能风险方面发挥什么作用？
• RQ4 如何在加速主义与技术谨慎主义的极端之间建立中间路径？
• RQ5 哪些制度与政策机制能够使人工智能发展中的创新与长期社会福祉保持一致？

主要发现

• 缺乏监管的人工智能发展带来重大风险，包括偏见放大、劳动力市场冲击，以及自主系统引发的潜在存在性威胁。
• 必须建立一种监管框架，激励对更安全AI架构的研究，以遏制超越当前基础模型的灾难性风险。
• 当前加速主义者与悲观主义者的对立是具有破坏性的，可通过一种平衡、务实的政策方法加以化解。
• 技术创新必须超越最先进基础模型，延伸至具备增强安全性、可解释性与控制能力的系统。
• 监管不应阻碍创新，而应战略性地设计，以引导创新朝向社会有益且合乎伦理的方向发展。
• 所提出的框架通过协调产业、研究与政策部门的激励机制，为负责任的人工智能进步提供了可行路径。