[论文解读] Smart Policies for Artificial Intelligence

Miles Brundage, Joanna J. Bryson|arXiv (Cornell University)|Aug 29, 2016

Big Data and Business IntelligenceBusiness, Management and Accounting被引用 20

一句话总结

本文认为，人工智能目前已由一种碎片化、事实上的政策格局所主导，并呼吁推动更加知情、整合且具有前瞻性的AI政策。文章借鉴其他科学领域的经验，提出系统性改革，以使AI治理更具前瞻性、有效性与一致性。

ABSTRACT

We argue that there already exists de facto artificial intelligence policy - a patchwork of policies impacting the field of AI's development in myriad ways. The key question related to AI policy, then, is not whether AI should be governed at all, but how it is currently being governed, and how that governance might become more informed, integrated, effective, and anticipatory. We describe the main components of de facto AI policy and make some recommendations for how AI policy can be improved, drawing on lessons from other scientific and technological domains.

研究动机与目标

• 分析当前非正式的AI政策现状，其特征为碎片化与反应性，而非战略性。
• 识别现有AI发展治理机制中的漏洞与低效之处。
• 提出一种更具系统性、前瞻性的AI政策方法，其灵感源自其他科技与科学领域中的成功范例。
• 鼓励政策制定者与研究人员通过协调一致、基于证据的战略，主动塑造AI的发展。
• 倡导将伦理、技术与社会考量整合进统一的AI政策框架中。

提出的方法

• 分析政府、产业界与学术界中影响AI发展的现有政策机制。
• 借鉴生物技术、核能与环境科学等领域的政策框架，为AI治理提供启示。
• 识别事实上的AI政策的核心构成要素，包括资金分配、研究伦理与监管监督。
• 建议设立跨学科政策委员会，以协调长期AI规划。
• 提议在AI政策制定中采用前瞻性方法，如情景规划与影响评估。
• 强调在AI政策设计中需要透明度、公众参与与适应性治理。

实验结果

研究问题

• RQ1 当前哪些非正式机制在塑造AI发展，它们如何作为事实上的政策发挥作用？
• RQ2 如何使AI政策更具前瞻性与整合性，而非反应性与碎片化？
• RQ3 从其他科学与技术领域的政策方法中，可为AI治理汲取哪些经验教训？
• RQ4 需要何种制度结构以确保AI治理的一致性与长期性？
• RQ5 如何更好地将伦理、技术与社会维度整合进AI政策框架中？

主要发现

• 事实上的AI政策已通过一系列法规、资金决策与机构实践的拼凑而形成，但缺乏一致性。
• 当前的治理机制往往具有反应性，碎片化严重，且在不同部门与司法管辖区之间协调不足。
• 生物技术与核能等领域的成功政策模式可为AI治理提供可转移的策略。
• 迫切需要前瞻性治理，包括采用情景规划与影响评估等前瞻性工具。
• 将研究人员、伦理学家与公众等多元利益相关者纳入政策设计，可提升政策的合法性与有效性。
• 本文最终认为，关键挑战并非AI是否应被治理，而在于如何改进现有治理，使其更加知情、整合与具有前瞻性。