[論文レビュー] A multilevel framework for AI governance

Hyesun Choung, Prabu David+1 more|arXiv (Cornell University)|Jul 4, 2023

Ethics and Social Impacts of AISocial Sciences被引用数 3

ひとこと要約

本論文は、政府、企業、市民を相互に依存するステークホルダーとして統合するAIのマルチレベルガバナンス枠組みを提唱する。信頼の次元（熟練度、誠実さ、思いやり）を活用することで、倫理的原則を実行可能な政策および実務に翻訳する。この枠組みは、AI開発を人間の価値観に適合させ、ユーザーの信頼および政策の効果性を向上させる、体系的かつ実用的なアプローチを提供する。

ABSTRACT

To realize the potential benefits and mitigate potential risks of AI, it is necessary to develop a framework of governance that conforms to ethics and fundamental human values. Although several organizations have issued guidelines and ethical frameworks for trustworthy AI, without a mediating governance structure, these ethical principles will not translate into practice. In this paper, we propose a multilevel governance approach that involves three groups of interdependent stakeholders: governments, corporations, and citizens. We examine their interrelationships through dimensions of trust, such as competence, integrity, and benevolence. The levels of governance combined with the dimensions of trust in AI provide practical insights that can be used to further enhance user experiences and inform public policy related to AI.

研究の動機と目的

• 倫理的AI原則とその現実世界での実装の間のギャップを埋めるために、体系的なガバナンスモデルを設計すること。
• 信頼できるAIシステムを維持するための政府、企業、市民の相互依存的役割を特定すること。
• 熟練度、誠実さ、思いやりの信頼の次元を通じて、抽象的な倫理的原則を実務化すること。
• AIシステムにおける公共政策およびユーザーエクスペリエンス設計のための実行可能なインサイトを提供すること。
• AI倫理ガイドラインと実務的ガバナンスメカニズムの間の溝を埋めること。

提案手法

• 枠組みは、国家（政府）、組織（企業）、社会（市民）の3段階のガバナンスレベルに構造化され、それぞれに明確な責任が割り当てられる。
• 信頼は熟練度（技術的および制度的能力）、誠実さ（倫理的整合性）、思いやり（利用者の利益を最優先に行動する意図）の3つの次元を通じて実務化される。
• ステークホルダー間の相互依存性は、フィードバックループおよび共有責任メカニズムによってモデル化される。
• 枠組みは倫理的原則と制度設計を統合し、透明性、責任性、参加型ガバナンスを強調する。
• 実用的適用性を確保するため、ガバナンス、倫理、社会科学の学際的理論を活用する。
• 概念的分析とデジタルガバナンス分野における既存の政策および倫理フレームワークとの整合性を通じて、モデルの妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 どのようにすれば倫理的AI原則を効果的に運用可能なガバナンスメカニズムに翻訳できるか？
• RQ2 政府、企業、市民は、信頼できるAIシステムを維持するために、それぞれどのような役割を果たすか？
• RQ3 熟練度、誠実さ、思いやりの信頼の次元は、AIガバナンスを促進するか、あるいは妨げるか？
• RQ4 ステークホルダー間の相互依存性は、AIガバナンスの成果をどのように改善できるか？
• RQ5 この枠組みは、公共政策にどのように寄与し、AIに対するユーザーの信頼をどのように高められるか？

主な発見

• マルチレベル枠組みにより、抽象的な倫理的原則がステークホルダー間で具体的なガバナンス責任に翻訳可能になる。
• 熟練度、誠実さ、思いやりの信頼の次元は、AIガバナンスの効果性を評価するための測定可能かつ実行可能な基準として機能する。
• 政府、企業、市民の間の相互依存性は、責任性を高め、AI実装における倫理的逸脱のリスクを低減する。
• この枠組みは、グローバルAIガバナンスにおける多様な規制的・文化的文脈に適用可能なスケーラブルなモデルを提供する。
• 信頼の次元の統合は、AIシステム設計および政策実装の評価・改善に実用的なレンズを提供する。
• この枠組みは、デジタルガバナンス分野における将来の政策開発および制度設計の基盤的ツールとして位置づけられる。