[論文レビュー] Dual Governance: The intersection of centralized regulation and crowdsourced safety mechanisms for Generative AI

Avijit Ghosh, Dhanya Lakshmi|arXiv (Cornell University)|Aug 2, 2023

Law, AI, and Intellectual PropertyComputer Science被引用数 3

ひとこと要約

本稿は、生成AIの安全性を確保するため、中央集権的米国規制とコミュニティ主導のオープンソース技術的メカニズムを統合するハイブリッド枠組み「デュアルガバナンス」を提案する。規制基準を透明なレジストリを通じて技術的ツールと結びつけることで、明確性、一貫性、可用性、機動性を向上させ、公平なイノベーションを促進するとともに、誤情報、バイアス、知的財産権侵害などの倫理的被害を軽減する。

ABSTRACT

Generative Artificial Intelligence (AI) has seen mainstream adoption lately, especially in the form of consumer-facing, open-ended, text and image generating models. However, the use of such systems raises significant ethical and safety concerns, including privacy violations, misinformation and intellectual property theft. The potential for generative AI to displace human creativity and livelihoods has also been under intense scrutiny. To mitigate these risks, there is an urgent need of policies and regulations responsible and ethical development in the field of generative AI. Existing and proposed centralized regulations by governments to rein in AI face criticisms such as not having sufficient clarity or uniformity, lack of interoperability across lines of jurisdictions, restricting innovation, and hindering free market competition. Decentralized protections via crowdsourced safety tools and mechanisms are a potential alternative. However, they have clear deficiencies in terms of lack of adequacy of oversight and difficulty of enforcement of ethical and safety standards, and are thus not enough by themselves as a regulation mechanism. We propose a marriage of these two strategies via a framework we call Dual Governance. This framework proposes a cooperative synergy between centralized government regulations in a U.S. specific context and safety mechanisms developed by the community to protect stakeholders from the harms of generative AI. By implementing the Dual Governance framework, we posit that innovation and creativity can be promoted while ensuring safe and ethical deployment of generative AI.

研究の動機と目的

• 完全に中央集権的なAI規制の限界を是正すること。これらはしばしば技術的明確性、一貫性、機動性に欠ける。
• 分散型でクラウドソーシングされた安全対策ツールの欠陥を是正すること。これらには執行力、監視機能、標準化が欠如している。
• 規制権限とコミュニティ主導の技術的対策を統合した、相乗効果をもたらすガバナンスモデルを構築すること。
• 大手および中小の技術開発者、およびエンドユーザーが、安全対策メカニズムに均等にアクセスできるようにすること。
• 進化するAI技術と規制ニーズに適応できる動的で見直し可能なシステムを確立すること。

提案手法

• 米国規制要件を特定のオープンソース安全対策ツール（例：ウォーターマーキング、モデル消去、データセットフィルタリング）にマッピングする中央集権的レジストリを構築すること。
• 既存のオープンソースツール（例：glazeによるモデル回避対策、erasureによる概念の削除、LLMウォーターマーキング）を標準化されたガバナンスフレームワークに統合すること。
• 定期的な政策およびツールの見直しを実施し、技術的・規制的変化に適応する。
• AI権利のためのブループrint（Blueprint）にインspiredされた、告発者制度および人間による代替メカニズムを組み込むこと。
• 規制の意図が技術的実装と一致するよう、文書化されたマッピングを通じて透明性と監査可能性を確保するシステムを構築すること。
• 行動可能な救済措置を可能にするために、既存の規制機関（例：CFPB）を活用し、安全基準への準拠を強制すること。

実験結果

リサーチクエスチョン

• RQ1 中央集権的規制と分散型安全対策メカニズムをどのように意味的に統合し、生成AIのガバナンスを改善できるか？
• RQ2 AI安全分野における明確性、一貫性、可用性、機動性、透明性を確保するためのガバナンスフレームワークに必要な基準は何か？
• RQ3 オープンソース安全対策ツールを政府規制と効果的に一致させることで、統一された規制エコシステムを構築できるか、その程度はいかほどか？
• RQ4 急速に進化する生成AI技術の文脈において、このフレームワークが関連性と適応性を維持できるか？
• RQ5 大企業と中小企業が、安全対策を均等にアクセス・実装できる仕組みは何か？

主な発見

• デュアルガバナンスフレームワークは、中央集権的規制とクラウドソーシングされた安全対策の両者の主な欠陥を克服し、統合的で透明なシステムとしての強みを発揮した。
• 規制を特定の技術的ツールにマッピングすることで、明確性が向上し、規制の意図が技術的に実装可能で検証可能であることが保証された。
• 規制およびツールの定期的見直しにより、フレームワークは新規のAIリスクやイノベーションに迅速かつ柔軟に対応できるようになった。
• 安全対策メカニズムを小規模・中規模の開発者にとってもアクセス可能かつ費用対効果の高いものにすることで、公平なイノベーションを支援した。
• 行動可能な救済措置と透明性を組み込むことで、フレームワークは生成AIシステムにおける責任の追求とユーザー信頼を高めた。
• このモデルは、ハイブリッドガバナンスアプローチが、単独で用いる場合よりも高い一貫性、可用性、機動性を達成できることを示した。