[論文レビュー] Oversight for Frontier AI through a Know-Your-Customer Scheme for Compute Providers

J. Egan, Lennart Heim|arXiv (Cornell University)|Oct 20, 2023

Blockchain Technology Applications and Security被引用数 7

ひとこと要約

要約: 本論文は、フロンティアAI開発のターゲットを絞った監督を可能にし、輸出管理を補完するために、動的な計算閾値と規制要件を定義するAIコンピュート提供事業者（特にクラウドCSP）向けの Know-Your-Customer（KYC）スキームを提案します。

ABSTRACT

To address security and safety risks stemming from highly capable artificial intelligence (AI) models, we propose that the US government should ensure compute providers implement Know-Your-Customer (KYC) schemes. Compute - the computational power and infrastructure required to train and run these AI models - is emerging as a node for oversight. KYC, a standard developed by the banking sector to identify and verify client identity, could provide a mechanism for greater public oversight of frontier AI development and close loopholes in existing export controls. Such a scheme has the potential to identify and warn stakeholders of potentially problematic and/or sudden advancements in AI capabilities, build government capacity for AI regulation, and allow for the development and implementation of more nuanced and targeted export controls. Unlike the strategy of limiting access to AI chip purchases, regulating the digital access to compute offers more precise controls, allowing regulatory control over compute quantities, as well as the flexibility to suspend access at any time. To enact a KYC scheme, the US government will need to work closely with industry to (1) establish a dynamic threshold of compute that effectively captures high-risk frontier model development, while minimizing imposition on developers not engaged in frontier AI; (2) set requirements and guidance for compute providers to keep records and report high-risk entities; (3) establish government capacity that allows for co-design, implementation, administration and enforcement of the scheme; and (4) engage internationally to promote international alignment with the scheme and support its long-term efficacy. While the scheme will not address all AI risks, it complements proposed solutions by allowing for a more precise and flexible approach to controlling the development of frontier AI models and unwanted AI proliferation.

研究の動機と目的

• 規制の介入を動機づけ、フロンティアAIのセキュリティと安全性リスクに対応する。
• AIガバナンスにおける監督の中核として計算資源を特定する。
• 高リスク事業者を識別し、ターゲットを絞った制限を可能にするComputeプロバイダ向けKYCスキームを提案する。
• 輸出管理と国内の安全規制を補完する形でのスキームのあり方を概説する。
• 国際的な整合と産業協力への道筋を示す。

提案手法

• 金融セクターのKYCを計算 provisioningへ適用する翻案。特に高リスクなフロンティアAI開発に焦点をあてる。
• KYC義務を triggerする動的な計算閾値（FLOPベース）を定義する。
• 計算提供者に対するデューデリジェンス要件（識別、記録、報告）を規定する。
• 政府機関の能力（米国商務省）による共同設計、実施、施行を主張する。
• 基準を国際的に整合させ、長期的な有効性を高めるための国際的関与を提案する。
• 産業界の協議と輸出管理との統合を含む実装ロードマップを提供する。

実験結果

リサーチクエスチョン

• RQ1 計算提供者向けのKYCスキームを設計して、過度な負担をかけずにフロンティアAI開発の高リスクを識別できるか。
• RQ2 クラウド計算がフロンティアAIに用いられる際の効果的な監視を可能にする閾値とガバナンス機構は何か。
• RQ3 このKYCスキームは既存の輸出管理および国内のAI安全規制をどのように補完できるか。
• RQ4 スキームの有効性と長寿命を確保するために、どのような国際的調整が必要か。

主な発見

• 計算提供者は顧客の計算使用状況をタイムリーに把握でき、ターゲットを絞ったリスク管理を可能にする。
• FLOPベースの動的閾値は、フロンティアAI活動を識別しつつ非フロンティア開発者の負担を最小化できる。
• 計算提供者向けのKYC体制は、リスク監視、抑止、情報に基づく政策対応を促進できる。
• 輸出管理および国内の安全規範との統合はスキームによって強化され、国際的整合が長期的な効果を支援する。
• 金融部門のKYC（例：BSA/AML）からの教訓は、統治構造、執行、越境協力を形づくる。