[論文レビュー] Responsible AI Governance: A Systematic Literature Review

Amna Batool, Didar Zowghi+1 more|arXiv (Cornell University)|Dec 18, 2023

Ethics and Social Impacts of AI被引用数 9

ひとこと要約

61 件の研究を対象とした AI ガバナンスに関する枠組み、モデル、ツール、方針を網羅する体系的文献調査を実施し、3W1H（Who-What-When-How） の視点でガバナンスのカバレッジを評価し、ギャップを特定した。

ABSTRACT

As artificial intelligence transforms a wide range of sectors and drives innovation, it also introduces complex challenges concerning ethics, transparency, bias, and fairness. The imperative for integrating Responsible AI (RAI) principles within governance frameworks is paramount to mitigate these emerging risks. While there are many solutions for AI governance, significant questions remain about their effectiveness in practice. Addressing this knowledge gap, this paper aims to examine the existing literature on AI Governance. The focus of this study is to analyse the literature to answer key questions: WHO is accountable for AI systems' governance, WHAT elements are being governed, WHEN governance occurs within the AI development life cycle, and HOW it is executed through various mechanisms like frameworks, tools, standards, policies, or models. Employing a systematic literature review methodology, a rigorous search and selection process has been employed. This effort resulted in the identification of 61 relevant articles on the subject of AI Governance. Out of the 61 studies analysed, only 5 provided complete responses to all questions. The findings from this review aid research in formulating more holistic and comprehensive Responsible AI (RAI) governance frameworks. This study highlights important role of AI governance on various levels specially organisational in establishing effective and responsible AI practices. The findings of this study provides a foundational basis for future research and development of comprehensive governance models that align with RAI principles.

研究の動機と目的

• AI ガバナンスに関する既存文献を統合し、誰が AI ガバナンスを支配するのか、何がガバナンスの対象となるのか、AI ライフサイクルのいつガバナンスが行われるのか、そしてどのようにガバナンスが実行されるのかを理解する。
• ガバナンス解決策を、枠組み、モデル、ツール、標準、ポリシー、ガイドラインで分類し、複数レベル（チーム、組織、産業、国家、国際）にわたって整理する。
• 現在の AI ガバナンス解決策の制約と課題を評価し、包括的な責任ある AI ガバナンス（RAI）のギャップを特定する。
• 倫理原則と多様なステークホルダーの関与に沿った将来のRAIガバナンス枠組みのための体系的な基盤を提供する。

提案手法

• Kitchenham ガイドラインに従った体系的文献調査を実施する。
• 61 著作（経験的・非経験的を問わず）を分析するために 3W1H（Who, What, When, How）を用いる。
• ガバナンス解決策を五つのガバナンスレベルに分類し、ステークホルダーをガバナンスレベル別にグループ化する。
• 発行年、研究タイプ、3W1H の網羅範囲についてデータ抽出を行い、ガバナンス解決策の網羅度を特定する。

実験結果

リサーチクエスチョン

• RQ1 RQ1: 文献にはAIに関するどのようなガバナンスの枠組み、モデル、ツール、方針が提示されているか？
• RQ2 RQ2: 既存のAIガバナンスのアプローチ/解決策では、どのような対象AIアプリケーション領域が考慮されているか？
• RQ3 RQ3: 文献で議論されるAIガバナンスの限界と課題は何か？

主な発見

• 61 件の研究を分析し、うち 27 件が 2023 年に公開され、完全な 3W1H 回答を提供している研究は少数（わずか 5 件）である。
• ほとんどのガバナンス解決策（19 件）は組織レベルのガバナンスに対応しており、国家レベルおよび国際レベルは少なく、誰も完全な 3W1H カバレッジを提供していない。
• データとシステムが最も頻繁にガバナンスの対象となる柱であり、文献では人間とプロセスには相対的に低い重点が置かれている。
• 誰が/いつ/何を取り扱うかよりも、どうガバナンスするか（方法/ツール）に強い焦点があり、ステークホルダーの役割とライフサイクル段階のカバレッジにギャップを示している。
• さまざまな AI ガバナンスの枠組み、モデル、ツール、ポリシーガイドラインが存在するが、倫理原則とライフサイクルの異なる段階でのステークホルダーの関与は一貫して扱われていない。
• 共通の適用分野には医療とロボット工学が含まれるが、多くの研究はドメインを特定していない。