[論文レビュー] AI Model Registries: A Foundational Tool for AI Governance

Elliot McKernon, Gwyn Glasser+2 more|arXiv (Cornell University)|Oct 12, 2024

Scientific Computing and Data ManagementDecision Sciences被引用数 3

ひとこと要約

本論文は、知的財産を損なわず、規制負担を最小限に抑えるために、強制力のある措置と財務的罰則を用いることで、政府による監視を可能にする、フロントエンドAIモデルの国家的レジストリを提案する。このフレームワークは、AIの安全性とイノベーションの平等性を高め、知的財産を損なわず、AIガバナンスの基盤を提供する。

ABSTRACT

In this report, we propose the implementation of national registries for frontier AI models as a foundational tool for AI governance. We explore the rationale, design, and implementation of such registries, drawing on comparisons with registries in analogous industries to make recommendations for a registry that is efficient, unintrusive, and which will bring AI governance closer to parity with the governmental insight into other high-impact industries. We explore key information that should be collected, including model architecture, model size, compute and data used during training, and we survey the viability and utility of evaluations developed specifically for AI. Our proposal is designed to provide governmental insight and enhance AI safety while fostering innovation and minimizing the regulatory burden on developers. By providing a framework that respects intellectual property concerns and safeguards sensitive information, this registry approach supports responsible AI development without impeding progress. We propose that timely and accurate registration should be encouraged primarily through injunctive action, by requiring third parties to use only registered models, and secondarily through direct financial penalties for non-compliance. By providing a comprehensive framework for AI model registries, we aim to support policymakers in developing foundational governance structures to monitor and mitigate risks associated with advanced AI systems.

研究の動機と目的

• 航空や医薬品業界のように、政府が高影響力AIシステムについて十分な洞察を得られるようにすること。
• フロントエンドAIのリスクを低減するため、集中管理され、透明性が保たれ、効率的なモデル開発の監視メカニズムを構築すること。
• コンプライアンス負担を最小限に抑えつつ、責任を確保することで、責任あるAIイノベーションを支援すること。
• モデル登録における透明性と知的財産および機密情報の保護のバランスを取ること。
• 先進AIシステムのタイムリーで正確かつ強制力のある監視を可能にするガバナンスフレームワークを確立すること。

提案手法

• 航空や医薬品業界などの高リスク産業で既に存在するレジストリを模範として、フロントエンドAIモデルの国家的レジストリシステムを設計すること。
• 収集すべきコアデータ要素を定義する：モデルアーキテクチャ、モデルサイズ、計算リソース、トレーニングデータ、評価結果。
• 段階的な執行メカニズムを導入する：第三者が登録済みモデルのみを使用することを義務付ける主たる措置（禁固措置）と、不遵守に対する二次的財務的罰則。
• 赤色化、アクセス制御、機密情報の限定的公表といったメカニズムを通じて、データの機微性と知的財産の保護を確保すること。
• 安全性、耐性、整合性を評価するためのAIシステムに特化した評価フレームワークを提案し、レジストリデータの有用性を高めること。
• レジストリを包括的なAIガバナンスエコシステムに統合し、政策立案、リスク監視、インcidnet対応を支援すること。

実験結果

リサーチクエスチョン

• RQ1 イノベーションを阻害することなく、政府がフロントエンドAIモデルに対して効果的な監視をどのように実現できるか。
• RQ2 意味のあるリスク評価と規制的洞察を得るために、モデルレジストリで収集すべきコア情報は何か。
• RQ3 公開または準公開のレジストリ内で、知的財産および機密技術的詳細をどのように保護できるか。
• RQ4 モデル登録要件への準拠を確保するため、最も効果的な執行メカニズムは何か。
• RQ5 他の高影響力産業で既存の規制モデルをAIモデルガバナンスにどの程度適応できるか。

主な発見

• 国家的AIモデルレジストリは、航空や医薬品業界と同等の政府の洞察をフロントエンドAIシステムに提供できる。
• モデルサイズ、計算リソース、トレーニングデータといった標準化されたデータ収集は、リスク監視を可能にし、根拠に基づく政策立案を支援する。
• 第三者が登録済みモデルのみを使用することを義務付ける禁固措置は、単なる財務的罰則よりも、コンプライアンスのメカニズムとしてより効果的である。
• 制御されたアクセスとデータ最小化を通じて、知的財産を尊重し、機密情報を保護できるように、レジストリフレームワークを設計できる。
• AIに特化した評価ツールは、ガバナンス目的でのレジストリデータの有用性と信頼性を顕著に高めることができる。
• 適切に設計されたレジストリは、不確実性を低減し、リスクを事前に軽減できるため、安全性とイノベーションの両方を支援する。