[論文レビュー] Computing Power and the Governance of Artificial Intelligence

Girish Sastry, Lennart Heim+17 more|arXiv (Cornell University)|Feb 13, 2024

Ethics and Social Impacts of AI被引用数 20

ひとこと要約

本論文は、AIの計算資源を統治することが、規制の可視性の向上、安全な用途への資源配分、乱用に対する取り締まりを通じてAIガバナンスを有意に高めうると主張し、同時にガードレールとリスクを概説する。

ABSTRACT

Computing power, or "compute," is crucial for the development and deployment of artificial intelligence (AI) capabilities. As a result, governments and companies have started to leverage compute as a means to govern AI. For example, governments are investing in domestic compute capacity, controlling the flow of compute to competing countries, and subsidizing compute access to certain sectors. However, these efforts only scratch the surface of how compute can be used to govern AI development and deployment. Relative to other key inputs to AI (data and algorithms), AI-relevant compute is a particularly effective point of intervention: it is detectable, excludable, and quantifiable, and is produced via an extremely concentrated supply chain. These characteristics, alongside the singular importance of compute for cutting-edge AI models, suggest that governing compute can contribute to achieving common policy objectives, such as ensuring the safety and beneficial use of AI. More precisely, policymakers could use compute to facilitate regulatory visibility of AI, allocate resources to promote beneficial outcomes, and enforce restrictions against irresponsible or malicious AI development and usage. However, while compute-based policies and technologies have the potential to assist in these areas, there is significant variation in their readiness for implementation. Some ideas are currently being piloted, while others are hindered by the need for fundamental research. Furthermore, naive or poorly scoped approaches to compute governance carry significant risks in areas like privacy, economic impacts, and centralization of power. We end by suggesting guardrails to minimize these risks from compute governance.

研究の動機と目的

• AIガバナンスのためのレバーとしての計算資源の研究を喚起し、計算資源が特に効果的な介入である理由を明確に述べる。
• AIの三位一体（データ、アルゴリズム、計算資源）を定義し、最先端モデルとデプロイメントにおける計算資源の役割を説明する。
• 計算資源統治が可視性・配分・執行という三つのガバナンス能力をどのように高められるかを概説する。
• 計算資源統治における潜在的なリスクとガードレールを特定し、現在および将来の政策オプションを論じる。

提案手法

• 検知性・排除可能性・定量性・サプライチェーン集中度に基づいて、計算資源を統治のレバーとして位置づける概念的フレームワークを構築する。
• AIライフサイクル（設計・訓練・強化・デプロイメント）を特徴づけ、各段階における計算資源のフットプリントを対応づける。
• 既存の計算資源統治の取り組み（国内計算能力、輸出管理、報告閾値）および国内外の政策手段を検討する。
• 可視性・配分・執行の各カテゴリにわたる指示的なガバナンス機構を、設計上の考慮事項とともに提案する。
• 計算資源統治のリスク（プライバシー、中央集権化、実現可能性）を論じ、それらを緩和するガードレールを提案する。

Figure 1 : Summary of the core concepts in the report. Compute is attractive for policymaking because of four properties. These properties can be leveraged to design and implement policies that enable three critical capacities for the governance of AI.

実験結果

リサーチクエスチョン

• RQ1 計算資源統治をいかに用いてAIの能力と利用の規制上の可視性を高めることができるか。
• RQ2 安全で有益なAI開発を促進するために、計算資源を再配分・管理するにはどのような政策機構があるか。
• RQ3 計算資源を用いてAIの開発・デプロイに関する規範・規制をどのように執行できるか。
• RQ4 計算資源統治におけるプライバシーと中央集権化のリスクを最小化するために必要なガードレールは何か。
• RQ5 計算資源ベースの統治アプローチの実務的な課題と準備度はどの程度か。

主な発見

• 計算資源は中央集権化され、触知可能で測定可能なフットプリントを持つため、最先端AIモデルにとって非常に影響力がある。
• 計算資源統治はAIガバナンスの可視性・配分・執行という三つの能力を強化できる。
• 可視性のための報告要件やAIチップ登録など、さまざまな例示的メカニズムが存在する。配分には有益なAIへのターゲット支援やペース調整、執行にはハードウェアベースの統制や規範の強制などがある。
• プライバシー、データ漏洩、権力の中央集権化の懸念など重要なリスクと実現可能性の問題があり、小規模計算の排除やプライバシー保護の実践を強調するガードレールが必要である。
• 現在のガバナンス努力（国内能力、輸出管理、報告閾値）は推進の勢いと緊張を示しており、計算資源を基盤とする政策の包括的な理論と慎重な設計の必要性を浮き彫りにしている。

Figure 2 : The AI Triad. The three key technical inputs to AI are data, algorithms, and compute. Human capital is required for all inputs.