[论文解读] AI Model Registries: A Foundational Tool for AI Governance

Elliot McKernon, Gwyn Glasser+2 more|arXiv (Cornell University)|Oct 12, 2024

Scientific Computing and Data ManagementDecision Sciences被引用 3

一句话总结

本文提出建立前沿人工智能模型的国家级注册制度，作为人工智能治理的基础工具，通过标准化收集模型架构、规模、计算资源和训练数据等信息，实现政府监管，同时通过禁止令执行和经济处罚减少监管负担。该框架在不损害知识产权的前提下，提升了人工智能安全性和创新公平性。

ABSTRACT

In this report, we propose the implementation of national registries for frontier AI models as a foundational tool for AI governance. We explore the rationale, design, and implementation of such registries, drawing on comparisons with registries in analogous industries to make recommendations for a registry that is efficient, unintrusive, and which will bring AI governance closer to parity with the governmental insight into other high-impact industries. We explore key information that should be collected, including model architecture, model size, compute and data used during training, and we survey the viability and utility of evaluations developed specifically for AI. Our proposal is designed to provide governmental insight and enhance AI safety while fostering innovation and minimizing the regulatory burden on developers. By providing a framework that respects intellectual property concerns and safeguards sensitive information, this registry approach supports responsible AI development without impeding progress. We propose that timely and accurate registration should be encouraged primarily through injunctive action, by requiring third parties to use only registered models, and secondarily through direct financial penalties for non-compliance. By providing a comprehensive framework for AI model registries, we aim to support policymakers in developing foundational governance structures to monitor and mitigate risks associated with advanced AI systems.

研究动机与目标

• 解决政府对高影响力人工智能系统缺乏洞察的问题，效仿航空和制药等受监管行业中的监督模式。
• 通过建立集中化、透明且高效的机制，监控模型开发，降低前沿人工智能相关的风险。
• 通过最小化合规负担并确保问责制，支持负责任的人工智能创新。
• 在模型注册过程中，平衡透明度与对知识产权和敏感信息的保护。
• 建立一个治理框架，实现对先进人工智能系统的及时、准确且可执行的监督。

提出的方法

• 设计一个针对前沿人工智能模型的国家级注册制度，参照航空和制药等高风险行业中的现有注册制度。
• 定义需收集的核心数据要素：模型架构、模型规模、计算资源、训练数据和评估结果。
• 引入分级执法机制：主要依赖禁止令，要求第三方仅使用注册模型；次要手段为对违规行为处以经济处罚。
• 通过数据遮蔽、访问控制和敏感信息有限公开等机制，确保数据隐私和知识产权保护。
• 提出针对人工智能系统的评估框架，以评估安全性、鲁棒性和对齐性，提升注册数据的实用性。
• 将注册制度整合到更广泛的人工智能治理生态系统中，以支持政策制定、风险监控和事件响应。

实验结果

研究问题

• RQ1 政府如何在不阻碍创新的前提下，实现对前沿人工智能模型的有效监督？
• RQ2 在模型注册中应收集哪些核心信息，以实现有意义的风险评估和监管洞察？
• RQ3 如何在面向公众或半公开的注册制度中保护知识产权和敏感技术细节？
• RQ4 哪些执法机制最有效，能确保模型注册要求的合规性？
• RQ5 其他高影响力行业中的现有监管模式在多大程度上可被适配用于人工智能模型治理？

主要发现

• 国家级人工智能模型注册制度可为政府提供对前沿人工智能系统的关键洞察，其效果可与航空和制药行业的监管相当。
• 收集标准化数据（如模型规模、计算资源和训练数据）可实现风险监控，并支持基于证据的政策制定。
• 禁止令（要求第三方仅使用注册模型）作为合规机制，比仅依赖经济处罚更为有效。
• 通过受控访问和数据最小化，注册制度框架可设计为尊重知识产权并保护敏感信息。
• 针对人工智能量身定制的评估工具可显著提升注册数据在治理目的下的实用性和可靠性。
• 设计良好的注册制度可通过降低不确定性并支持主动风险缓解，同时促进安全与创新。