[論文レビュー] A Practical Multilevel Governance Framework for Autonomous and Intelligent Systems

Lukas Pöhler, Klaus Diepold+1 more|arXiv (Cornell University)|Apr 21, 2024

Collaboration in agile enterprisesBusiness, Management and Accounting被引用数 3

ひとこと要約

本稿は、自律的・知能的システム（AIS）の実用的で多層的なガバナンス枠組みを提案する。この枠組みは、国際的、国家的、組織的、その他の6段階の意思決定レベルにわたり、関係者をマッピングし、進化するツールと公式なメカニズムを通じて、調整的かつ柔軟なガバナンスを可能にする。この枠組みは、規制サンドボックス、定期的レビュー、双方向の情報フローを活用したアジールな反復的監視を支援し、分野を越えた責任あるAIS開発・展開を強化する。

ABSTRACT

Autonomous and intelligent systems (AIS) facilitate a wide range of beneficial applications across a variety of different domains. However, technical characteristics such as unpredictability and lack of transparency, as well as potential unintended consequences, pose considerable challenges to the current governance infrastructure. Furthermore, the speed of development and deployment of applications outpaces the ability of existing governance institutions to put in place effective ethical-legal oversight. New approaches for agile, distributed and multilevel governance are needed. This work presents a practical framework for multilevel governance of AIS. The framework enables mapping actors onto six levels of decision-making including the international, national and organizational levels. Furthermore, it offers the ability to identify and evolve existing tools or create new tools for guiding the behavior of actors within the levels. Governance mechanisms enable actors to shape and enforce regulations and other tools, which when complemented with good practices contribute to effective and comprehensive governance.

研究の動機と目的

• 急速な技術的展開が、緩慢な進行を示す規制機関を上回るAISガバナンスの「スピードギャップ」問題に対処すること。
• 中央集権的でトップダウンのガバナンスの限界を克服し、意思決定の複数レベルにわたり分散的かつステークホルダー参加型のガバナンスを可能にすること。
• 関係者を特定し、ガバナンスツールを開発し、AISライフサイクル全体で責任を確保する、構造的ではあるが柔軟な枠組みを提供すること。
• 規制サンドボックスや反復的政策立案といったアジールガバナンス実践を、AISにスケーラブルなガバナンスアーキテクチャに統合すること。
• 公式なガバナンスメカニズムを通じて下位からの入力と上位からの調整を促進し、レベル間をつなぐ監視を支援すること

提案手法

• 国際的、国家的、組織的、部門的、コミュニティ的、個人的の6段階の階層的レベルにわたり、ガバナンス関係者をマッピングする。
• 上位レベルから下位レベルへの正式なリンクを可能にするガバナンスメカニズムを開発する。これには、上位からの強制的措置と下位からの提案提出の両方が含まれる。
• 技術的・社会的変化への対応として、反復的政策立案と定期的レビューを導入し、ガバナンスツールの進化を可能にする。
• 大規模展開の前段階で、制御された環境でガバナンスツールをテストするための規制サンドボックスを統合する。
• 透明性、ステークホルダー参加、倫理基準といった良好な実践を活用し、ガバナンスメカニズムを強化する。
• 国際的機関（例：ITU、UNODA）およびフォーラム（例：AI for Goodグローバルサミット）を活用し、グローバルな入力を調整し、断片化を回避する。

実験結果

リサーチクエスチョン

• RQ1 AISの急速な発展に応じて、複数レベルにわたり効果的に分散的かつ調整されたガバナンスを実現するにはどうすればよいか？
• RQ2 多層的AISガバナンスシステムにおいて、上位からの監視と下位からの入力の両方を可能にするメカニズムとは何か？
• RQ3 規制サンドボックスや反復的レビューといったアジールガバナンス実践を、多層的枠組みにどのように統合できるか？
• RQ4 既存の国際的機関やフォーラムは、AISの包括的で統一的なグローバルガバナンスエコシステムを支える上で、果たす役割は何か？
• RQ5 技術的・社会的変化のなかで、ガバナンスツールが時間とともに効果的であるように進化させるにはどうすればよいか？

主な発見

• 提示された多層的ガバナンス枠組みは、6段階の意思決定レベルにわたり多様な関係者間の構造的連携を可能にし、柔軟性と包括性を高める。
• ガバナンスメカニズムは、双方向の情報フローを支援する。下位レベルの関係者が上位レベルに提案を提出でき、上位レベルが下位レベルの行動を強制または誘導できる。
• 規制サンドボックスや定期的レビューといったアジールガバナンス実践の統合により、ガバナンスツールの対応性と進化能力が向上する。
• ITU や UNODA のような既存の国際的機関は、グローバルなAISガバナンスを調整する有効なプラットフォームとして機能し、断片化を低減できる。
• 包括的かつステークホルダー参加型のフォーラムを通じて、相互運用性のある基準、宣言、自己規制的合意の創出を支援する。
• 国際的AIガバナンス会議のようなガバナンス調整委員会は、多様な関係者間の調整を仲介し、合意形成を促進する中立的な仲介者として機能できる。