[论文解读] A Practical Multilevel Governance Framework for Autonomous and Intelligent Systems

Lukas Pöhler, Klaus Diepold+1 more|arXiv (Cornell University)|Apr 21, 2024

Collaboration in agile enterprisesBusiness, Management and Accounting被引用 3

一句话总结

本文提出了一种面向自主与智能系统（AIS）的实用多层级治理框架，映射了国际、国家、组织及其他六个决策层级的参与主体，通过不断演进的工具与正式机制，实现协调、灵活的治理。该框架通过监管沙盒、定期审查及双向信息流动，支持敏捷、迭代的监督，提升各领域中AIS的负责任发展与部署。

ABSTRACT

Autonomous and intelligent systems (AIS) facilitate a wide range of beneficial applications across a variety of different domains. However, technical characteristics such as unpredictability and lack of transparency, as well as potential unintended consequences, pose considerable challenges to the current governance infrastructure. Furthermore, the speed of development and deployment of applications outpaces the ability of existing governance institutions to put in place effective ethical-legal oversight. New approaches for agile, distributed and multilevel governance are needed. This work presents a practical framework for multilevel governance of AIS. The framework enables mapping actors onto six levels of decision-making including the international, national and organizational levels. Furthermore, it offers the ability to identify and evolve existing tools or create new tools for guiding the behavior of actors within the levels. Governance mechanisms enable actors to shape and enforce regulations and other tools, which when complemented with good practices contribute to effective and comprehensive governance.

研究动机与目标

• 解决AIS治理中的节奏问题，即技术快速部署的速度超过缓慢运作的监管机构的响应速度。
• 克服自上而下、集中化治理的局限性，通过在多个决策层级实现分布式、多利益相关方参与，实现治理。
• 提供一种结构化但灵活的框架，以识别相关参与主体、开发治理工具，并确保AIS全生命周期中的问责性。
• 将敏捷治理实践（如监管沙盒和迭代式政策制定）整合进可扩展的AIS治理架构中。
• 通过正式化的治理机制实现自下而上的输入与自上而下的协调，实现层级间的链接并支持监督

提出的方法

• 在六个层级（国际、国家、组织、行业、社区和个体）上绘制治理参与主体的分布图。
• 开发治理机制，实现层级之间的正式连接，包括自上而下的执行与自下而上的提案提交。
• 引入迭代式政策制定与定期审查，以应对技术与社会变化，动态调整治理工具。
• 引入监管沙盒，在大规模部署前于受控环境中测试治理工具。
• 采用透明度、利益相关方参与与伦理标准等良好实践，强化治理机制。
• 利用现有国际组织（如国际电联、联合国裁军事务厅）和论坛（如人工智能造福全球峰会）协调全球输入，避免碎片化

实验结果

研究问题

• RQ1 如何在多个层级上实现AIS治理的有效去中心化与协调，以应对AIS的快速发展？
• RQ2 哪些机制能够在多层级AIS治理体系中同时实现自上而下的监督与自下而上的输入？
• RQ3 如何将监管沙盒和迭代审查等敏捷治理实践整合进多层级框架中？
• RQ4 现有国际组织与论坛在支持AIS全球治理生态系统的统一性方面发挥什么作用？
• RQ5 如何随时间演化治理工具，以应对技术与社会变化，保持其有效性？

主要发现

• 所提出的多层级治理框架实现了六个决策层级中多样化参与主体的结构化协调，提升了适应性与包容性。
• 治理机制支持双向信息流动——允许下级主体向更高级别提交提案，同时支持上级对下级行动的执行或指导。
• 将监管沙盒和定期审查等敏捷治理实践整合进治理框架，增强了治理工具的响应能力与演化能力。
• 国际电联（ITU）和联合国裁军事务厅（UNODA）等现有国际组织可作为协调全球AIS治理的有效平台，减少碎片化。
• 该框架通过包容性、多利益相关方论坛，支持互操作性标准、宣言与自律承诺的制定。
• 治理协调委员会（如国际人工智能治理大会）可作为中立中介，协调多元主体并促进共识达成