[論文レビュー] Governing Through the Cloud: The Intermediary Role of Compute Providers in AI Regulation

Lennart Heim, Tim Fist+6 more|arXiv (Cornell University)|Mar 13, 2024

Blockchain Technology Applications and Security被引用数 4

ひとこと要約

本論文は、AWS、Google Cloud、Microsoft Azureなどのクラウドコンピューティングプロバイダーが、インフラストラクチャデータへの技術的アクセスを活用してコンプライアンスを強制することで、AI規制における仲介者として機能すべきであると提言する。セキュリティ提供者、記録保持者、検証者、執行者という4つのガバナンス役割を提示し、計算時間、消費電力、帯域幅といった機密性のないテレメトリデータを用いて、プライバシーを損なわずに高リスクAI開発を監視・分類する。

ABSTRACT

As jurisdictions around the world take their first steps toward regulating the most powerful AI systems, such as the EU AI Act and the US Executive Order 14110, there is a growing need for effective enforcement mechanisms that can verify compliance and respond to violations. We argue that compute providers should have legal obligations and ethical responsibilities associated with AI development and deployment, both to provide secure infrastructure and to serve as intermediaries for AI regulation. Compute providers can play an essential role in a regulatory ecosystem via four key capacities: as securers, safeguarding AI systems and critical infrastructure; as record keepers, enhancing visibility for policymakers; as verifiers of customer activities, ensuring oversight; and as enforcers, taking actions against rule violations. We analyze the technical feasibility of performing these functions in a targeted and privacy-conscious manner and present a range of technical instruments. In particular, we describe how non-confidential information, to which compute providers largely already have access, can provide two key governance-relevant properties of a computational workload: its type-e.g., large-scale training or inference-and the amount of compute it has consumed. Using AI Executive Order 14110 as a case study, we outline how the US is beginning to implement record keeping requirements for compute providers. We also explore how verification and enforcement roles could be added to establish a comprehensive AI compute oversight scheme. We argue that internationalization will be key to effective implementation, and highlight the critical challenge of balancing confidentiality and privacy with risk mitigation as the role of compute providers in AI regulation expands.

研究の動機と目的

• EU AI法や米国大統領専門令14110といった新規のAI規制における、実効性のない執行メカニズムの欠如に対処すること。
• インフラストラクチャレベルのデータへの独自のアクセスを有するため、コンピューティングプロバイダーをAIガバナンスにおける重要な仲介者として位置づけること。
• セキュリティ提供者、記録保持者、検証者、執行者という4つのガバナンス能力を特定・分析すること。
• プライバシーを保護しつつ、非機密的かつ既に収集済みのテレメトリデータを用いた規制監視の技術的妥当性を評価すること。
• 国際的協調とプライバシー保護技術を組み合わせることで、リスク低減とデータ保護の両立を図る仕組みの可能性を検討すること。

提案手法

• 米国EO 14110を含む既存の規制枠組みを分析し、コンピューティングプロバイダーに課せられる記録保持義務を特定する。
• 要求されたハードウェア構成、計算時間、消費電力、ネットワーク帯域幅といった、観測可能なインフラストラクチャ属性を、ワークロード分類とリソース消費にマッピングする。
• パフォーマンスカウンタ、メモリアクセスパターン、重み更新頻度を用いた、モデル学習と推論ワークロードの区別可能性を評価する。
• 顧客の同意を得た上で、機密データ（例：学習データセット、ハイパーパramータ）を収集するための機密コンピューティングなどのプライバシー保護技術の妥当性を検討する。
• 階層的監視モデルを提案し、コンピューティングプロバイダーが規制当局に高レベルのテレメトリを報告しつつ、データ露出を最小限に抑える。
• 規制当局とAI開発者との間で、コンピューティングプロバイダーが仲介者として機能する規制エコシステムを設計し、コンプライアンス負担の軽減と執行能力の向上を図る。

実験結果

リサーチクエスチョン

• RQ1 コンピューティングプロバイダーを、法的・倫理的にAI規制枠組みにおける仲介者として統合するにはどうすればよいか？
• RQ2 インフラストラクチャテレメトリから得られるどの技術的シグナルが、プライバシーを損なわずにワークロードの種別（例：学習対比推論）と規模を信頼性高く示すことができるか？
• RQ3 計算時間、消費電力、帯域幅といった既存のテレメトリデータを、規制監視の目的に再利用できる範囲はどの程度か？
• RQ4 検証および執行の役割を拡大することで、コンピューティングプロバイダーの役割に伴うプライバシーとセキュリティのトレードオフはどのようなものか？
• RQ5 国際的協調と標準化された技術的ツールが、スケーラブルでプライバシーに配慮したAIガバナンスを実現するためにどのように機能するか？

主な発見

• コンピューティングプロバイダーは、計算時間、ハードウェア構成、消費電力といった非機密的テレメトリをすでに収集しており、これらを用いてワークロードの種別を分類し、リソース消費を推定できる。
• AIアクセラレータ間および内部のネットワーク帯域幅利用状況は、ワークロードの特性と強く相関しており、学習と推論ワークロードの区別に有効である。
• メモリ帯域幅とコア利用度パターンは、学習（高水準で一定）と推論（変動あり）ワークロードを区別でき、ワークロード分類の技術的根拠を提供する。
• 数値精度別のパフォーマンスカウンタは、AIワークロードと科学的計算またはゲームワークロードを区別でき、計算強度の直接的な代理指標を提供する。
• メモリ内でのモデル重みの変更は、学習活動の強力な指標であり、その頻度と大きさは計算消費量と相関する。
• 一部のシグナル（例：学習データセットやハイパーパramータへのアクセス）は新たなデータ収集を要するが、顧客の同意を得た上で機密コンピューティングを用いることでプライバシー保護が可能となる。