[論文レビュー] The Different Faces of AI Ethics Across the World: A Principle-Implementation Gap Analysis

Lionel Nganyewou Tidjon, Foutse Khomh|arXiv (Cornell University)|May 12, 2022

Artificial Intelligence in Healthcare and Education被引用数 8

ひとこと要約

本論文は、6大陸にまたがる29か国および14か国におけるグローバルAI倫理原則とその現実世界での実装ギャップを分析し、透明性が最も頻出する原則であることを特定するとともに、ツールやトレーニングの不足といった主要なギャップを明らかにした。本研究では、継続的モニタリング、多様なチーム、標準化された実践を統合することで、AIライフサイクルに倫理を組み込む「EthicsOps」を提唱し、原則と実装の間の格差を埋める。

ABSTRACT

Artificial Intelligence (AI) is transforming our daily life with several applications in healthcare, space exploration, banking and finance. These rapid progresses in AI have brought increasing attention to the potential impacts of AI technologies on society, with ethically questionable consequences. In recent years, several ethical principles have been released by governments, national and international organisations. These principles outline high-level precepts to guide the ethical development, deployment, and governance of AI. However, the abstract nature, diversity, and context-dependency of these principles make them difficult to implement and operationalize, resulting in gaps between principles and their execution. Most recent work analysed and summarized existing AI principles and guidelines but they did not provide findings on principle-implementation gaps and how to mitigate them. These findings are particularly important to ensure that AI implementations are aligned with ethical principles and values. In this paper, we provide a contextual and global evaluation of current ethical AI principles for all continents, with the aim to identify potential principle characteristics tailored to specific countries or applicable across countries. Next, we analyze the current level of AI readiness and current implementations of ethical AI principles in different countries, to identify gaps in the implementation of AI principles and their causes. Finally, we propose recommendations to mitigate the principle-implementation gaps.

研究の動機と目的

• すべての大陸をカバーする国別およびグローバルなAI倫理原則を特定・評価すること。
• 14か国のAI準備状況および倫理原則の実装状況を評価すること。
• 表明されたAI倫理原則とその実際の実装との間のギャップの根本的要因を同定すること。
• 原則と実装のギャップを埋めるための実行可能で文脈に配慮した提言を提示すること。
• EthicsOpsを、AI開発ライフサイクルに倫理を埋め込む包括的フレームワークとして採用するよう提唱すること。

提案手法

• 6大陸にまたがる29か国の100件のAI倫理文書の体系的収集および分析。
• 14か国の121件の実世界の実装（例：法制度、基準、チェックリスト、トレーニングツール）の評価。
• 頻度および大陸間での出現頻度分析を用いて、繰り返し現れる原則とそのグローバルカバレッジの同定。
• ツール、基準、ガバナンスの観点に注目し、表明された原則と実際の実装の間のギャップ分析。
• 実装報告書の定性的および定量的評価を用いた、実装ギャップの根本的要因分析。
• DevSecOpsおよびAIOpsの原則を統合した継続的でライフサイクル統合型のフレームワークとして、EthicsOpsの提唱。

実験結果

リサーチクエスチョン

• RQ1 異なる国および大陸で最も一般的に見られるAI倫理原則は何か？
• RQ2 国別および国際的AI倫理原則は、現実の現場での実装とどの程度一致しているか？
• RQ3 AI倫理における原則と実装のギャップの主な根本的要因は何か？
• RQ4 EthicsOpsは、倫理原則とその現実世界での実行とのギャップをどのように実装できるか？
• RQ5 多様性、教育、公私連携は、倫理的AI実装を強化するために果たす役割は何か？

主な発見

• 100件の文書（29か国）を分析した結果、透明性が最も頻出するAI倫理原則であった。
• グローバルに最も一般的な11の原則—プライバシー、透明性、公平性、セキュリティ、安全性、責任、説明可能性、ウェルネス、人権、包摂性—は、最多の国家および国際的フレームワークに登場した。
• GPAI、OECD、G20の原則では「責任」が欠落しており、これは多くの国家フレームワークで広く採用されている。
• 2016年から2021年の間に、米国、イギリス、カナダが最多のAI倫理原則を発表した。
• 5つの主要な原則実装ギャップが同定された：効果的な実装ツールの不足、基準の弱さ、企業ガバナンス統合の不十分さ、トレーニングの不足、倫理的パフォーマンスのためのメトリクスの不足。
• ギャップの根本的要因には、人為的バイアス、メトリクスの欠如、AI開発チームにおける多様性・包摂性の不足が含まれる。