[論文レビュー] Putting AI Ethics into Practice: The Hourglass Model of Organizational AI Governance

Matti Mäntymäki, Matti Minkkinen+2 more|arXiv (Cornell University)|Jun 1, 2022

Ethics and Social Impacts of AI被引用数 31

ひとこと要約

組織のAIガバナンスのHourglass Modelを導入し、AI倫理を実践へ翻訳し、環境、組織、AIシステムレベルを結びつけて、システムライフサイクル全体を通じてEU AI Actに整合させる。

ABSTRACT

The organizational use of artificial intelligence (AI) has rapidly spread across various sectors. Alongside the awareness of the benefits brought by AI, there is a growing consensus on the necessity of tackling the risks and potential harms, such as bias and discrimination, brought about by advanced AI technologies. A multitude of AI ethics principles have been proposed to tackle these risks, but the outlines of organizational processes and practices for ensuring socially responsible AI development are in a nascent state. To address the paucity of comprehensive governance models, we present an AI governance framework, the hourglass model of organizational AI governance, which targets organizations that develop and use AI systems. The framework is designed to help organizations deploying AI systems translate ethical AI principles into practice and align their AI systems and processes with the forthcoming European AI Act. The hourglass framework includes governance requirements at the environmental, organizational, and AI system levels. At the AI system level, we connect governance requirements to AI system life cycles to ensure governance throughout the system's life span. The governance model highlights the systemic nature of AI governance and opens new research avenues into its practical implementation, the mechanisms that connect different AI governance layers, and the dynamics between the AI governance actors. The model also offers a starting point for organizational decision-makers to consider the governance components needed to ensure social acceptability, mitigate risks, and realize the potential of AI.

研究の動機と目的

• 組織におけるAI利用におけるAI関連のリスクと害（例：偏り、差別）に対処する動機付け。
• AI倫理の原則を実践へ翻訳する包括的なガバナンス枠組みを提供する。
• 組織のAIガバナンスを今後の規制基準（EU AI Act）に合わせる。
• 環境、組織、AIシステムレベルを包含するライフサイクルを考慮したガバナンスアプローチを提供する。

提案手法

• AIシステムを開発・利用する組織のための構造として、hourglass governance frameworkを提案する。
• ガバナンス要件を環境、組織、AIシステムレベルに対応づける。
• AIシステムのガバナンスをシステムライフサイクルと結びつけ、AI展開の全体期間にわたるガバナンスを確保する。
• AIガバナンスの体系的な性質と、ガバナンス層を結ぶメカニズムの必要性を強調する。
• ガバナンス機構とアクターのダイナミクスに関する実践的実装と今後の研究の方向性を示唆する。

実験結果

リサーチクエスチョン

• RQ1 倫理的AI原則を組織全体にわたって実践的なガバナンスへどのように翻訳できるか？
• RQ2 社会受容とリスク緩和を確保するために、環境、組織、AIシステムレベルはAIガバナンスの中でどのように相互作用するか？
• RQ3 既存または今後の規制（例えばEuropean AI Act）とガバナンスをどのように整合させるか？
• RQ4 異なるAIガバナンス層とアクターを結ぶどのようなメカニズムが、システムライフサイクル全体を通じて責任あるAIを支えるのか？

主な発見

• 組織のAI利用のガバナンス枠組みとしてhourglass modelを導入する。
• 環境、組織、AIシステムレベルを超えるAIガバナンスの体系的かつ多層的性質を強調する。
• ガバナンス要件をAIシステムのライフサイクルに結びつけ、システムの存続期間を通じたガバナンスを支援する。
• 実践的な実装、層間メカニズム、AIガバナンスにおけるアクターダイナミクスの新しい研究経路を特定する。
• 社会的受容とリスク緩和を実現するガバナンス構成要素を意思決定者が検討するための出発点を提供する。