[論文レビュー] International Institutions for Advanced AI

L. Lawrence Ho, Joslyn Barnhart+9 more|arXiv (Cornell University)|Jul 10, 2023

Ethics and Social Impacts of AI被引用数 20

ひとこと要約

本論文は、 Commission on Frontier AI、Advanced AI Governance Organization、Frontier AI Collaborative、AI Safety Project の4つの国際ガバナンスモデルを提案し、それらの潜在的な役割、相乗効果、そして高度なAIのリスク管理と恩恵分配の実現可能性を分析する。

ABSTRACT

International institutions may have an important role to play in ensuring advanced AI systems benefit humanity. International collaborations can unlock AI's ability to further sustainable development, and coordination of regulatory efforts can reduce obstacles to innovation and the spread of benefits. Conversely, the potential dangerous capabilities of powerful and general-purpose AI systems create global externalities in their development and deployment, and international efforts to further responsible AI practices could help manage the risks they pose. This paper identifies a set of governance functions that could be performed at an international level to address these challenges, ranging from supporting access to frontier AI systems to setting international safety standards. It groups these functions into four institutional models that exhibit internal synergies and have precedents in existing organizations: 1) a Commission on Frontier AI that facilitates expert consensus on opportunities and risks from advanced AI, 2) an Advanced AI Governance Organization that sets international standards to manage global threats from advanced models, supports their implementation, and possibly monitors compliance with a future governance regime, 3) a Frontier AI Collaborative that promotes access to cutting-edge AI, and 4) an AI Safety Project that brings together leading researchers and engineers to further AI safety research. We explore the utility of these models and identify open questions about their viability.

研究の動機と目的

• AIの利益を活用し世界的リスクを緩和するための国際ガバナンスを主張する。
• ガバナンス機能を国際機関へマッピングし、実装可能な場所を特定する。
• 4つの制度モデルを提案し、それぞれの強み・相乗効果・限界を分析する。
• Frontier AIの将来のガバナンスに関する未解決の問いと実務上の考慮事項を際立たせる。

提案手法

• ガバナンス機能を科学・技術開発とルール設定/施行へ分類する分類学的枠組み。
• 各機能を4つの理想化された制度モデルへ概念的にマッピングする。
• 各モデルの利益、課題、実現可能性の比較分析。
• 提案の根拠として既存の国際的取り組み（OECD、GPAI、ITU、ISO/IEC）を参照する。

実験結果

リサーチクエスチョン

• RQ1 高度なAIの機会とリスクに対処するために必要な国際ガバナンス機能は何か？
• RQ2 これらの機能を効果的に実行しつつ世界的アクセスと安全性を促進する制度配置はどれか？
• RQ3 提案された各モデルの主要な課題と実現可能性の懸念（合意形成、標準、アクセス、安全研究）は何か？
• RQ4 既存の機関（OECD、GPAI、ITU、ISO/IEC）は新しい国際構造にどのように情報を提供し、補完され得るか？
• RQ5 参加インセンティブ、モニタリング、急速なAI進展への適応性に関する未解決の問いは何か？

主な発見

• 4つの制度モデルは、Frontier AIに対して個別ながら相互補完的なガバナンス役割を果たすことができる。
• Commission on Frontier AIは専門家のコンセンサス構築と政策への情報提供に役立つ。
• An Advanced AI Governance Organizationは標準を設定し、実装を支援し、遵守を監視できる。
• A Frontier AI Collaborativeは国際的なアクセスを促進し、恩恵を恩恵を受けにくい地域へ分配する。
• An AI Safety Projectは安全性研究と主要研究者間のリソース共有を調整できる。