[論文レビュー] Generative AI Needs Adaptive Governance

Anka Reuel, Trond Arne Undheim|arXiv (Cornell University)|Jun 6, 2024

Innovation, Sustainability, Human-Machine Systems被引用数 9

ひとこと要約

本論文は、AIガバナンスが生成系AIと共進化する適応的ガバナンスが、生成系AIの急速なペース、多様な適用範囲、および社会的影響に対処するために必要であると主張し、そのようなガバナンスを実装するための枠組みと実践的な手順を概説するとともに、そのリスクを認識しています。

ABSTRACT

Because of the speed of its development, broad scope of application, and its ability to augment human performance, generative AI challenges the very notions of governance, trust, and human agency. The technology's capacity to mimic human knowledge work, feedback loops including significant uptick in users, research, investor, policy, and media attention, data and compute resources, all lead to rapidly increasing capabilities. For those reasons, adaptive governance, where AI governance and AI co-evolve, is essential for governing generative AI. In sharp contrast to traditional governance's regulatory regimes that are based on a mix of rigid one-and-done provisions for disclosure, registration and risk management, which in the case of AI carry the potential for regulatory misalignment, this paper argues that generative AI calls for adaptive governance. We define adaptive governance in the context of AI and outline an adaptive AI governance framework. We outline actors, roles, as well as both shared and actors-specific policy activities. We further provide examples of how the framework could be operationalized in practice. We then explain that the adaptive AI governance stance is not without its risks and limitations, such as insufficient oversight, insufficient depth, regulatory uncertainty, and regulatory capture, and provide potential approaches to fix these shortcomings.

研究の動機と目的

• 生成系AIの文脈における従来のAIガバナンスと適応的AIガバナンスを定義する。
• 生成系AIのスピード、範囲、リスクを踏まえて適応的ガバナンスの必要性を正当化する。
• 適応的AIガバナンスを実現する実践的な枠組みと実行手順を提案する。
• 適応的ガバナンスの限界とリスクを特定し、対策を提案する。

提案手法

• 環境ガバナンスおよびアジャイル政策手法に触発された適応的ガバナンス枠組みを定義する。
• 従来のトリプルヘリックスモデルを拡張し、政府、産業、学界、市民社会、および市民を共同統治者として含める。
• 共通のSCUMIA活動とアクター別のFACTI活動を、関係者間で列挙する。
• 適応的ガバナンスを実装するための具体的で文脈依存の例とパイロット経路を提供する。
• 時間とともにガバナンスを監視・更新・改善する潜在的なメカニズムについて論じる。

実験結果

リサーチクエスチョン

• RQ1 生成系AIガバナンスは従来のAIガバナンスと何が異なり、なぜ適応的ガバナンスが正当化されるのか？
• RQ2 アクター、活動、およびガバナンスプロセスの観点から、適応的AIガバナンスの枠組みはどのようなものになるのか？
• RQ3 パイロット実装と制度的取り決めを含め、適応的ガバナンスを実際にどのように運用可能にするか？
• RQ4 適応的ガバナンスの主なリスクと制約は何で、それらをどのように緩和できるか？

主な発見

• 適応的ガバナンスは従来のガバナンスよりも迅速で柔軟、かつ関係者の参加範囲が広く、生成系AIのペース問題に対処するのに役立つ。
• 政府、産業、学界を超えて市民社会と市民を含む共通のSCUMIA活動とアクター別のFACTI活動を含む、具体的な枠組みを提案する。
• 実践的な実装には、政府内のガバナンス調整委員会、横断的なAI担当官の配置、段階的な規制改正ラウンド、国内のAIガバナンス研究開発資金目標が含まれる。
• 透明性、学習ループ、マルチステークホルダーの協力、そして市民のAIリテラシーを強調し、リスクを緩和し規制キャプチャを回避する。
• このアプローチは監督不足、規制の不確実性、分析の深さなどの欠点を認めており、それらに対処するための層状監督と段階的分析を提案する。