[論文レビュー] Ethics of AI: A Systematic Literature Review of Principles and Challenges

Arif Ali Khan, Sher Badshah+5 more|arXiv (Cornell University)|Sep 12, 2021

Ethics and Social Impacts of AI被引用数 7

ひとこと要約

本系統的文献レビューでは、22の核心的AI倫理原則と15の倫理的AI導入のための主要な課題を同定した。透明性、プライバシー、責任、公平性が特に重要であると浮き彫りになった。本研究は、AIシステムにおける倫理的能力を評価・向上させるために提案されたAI倫理成熟度モデルの基盤的入力を提供する。

ABSTRACT

Ethics in AI becomes a global topic of interest for both policymakers and academic researchers. In the last few years, various research organizations, lawyers, think tankers and regulatory bodies get involved in developing AI ethics guidelines and principles. However, there is still debate about the implications of these principles. We conducted a systematic literature review (SLR) study to investigate the agreement on the significance of AI principles and identify the challenging factors that could negatively impact the adoption of AI ethics principles. The results reveal that the global convergence set consists of 22 ethical principles and 15 challenges. Transparency, privacy, accountability and fairness are identified as the most common AI ethics principles. Similarly, lack of ethical knowledge and vague principles are reported as the significant challenges for considering ethics in AI. The findings of this study are the preliminary inputs for proposing a maturity model that assess the ethical capabilities of AI systems and provide best practices for further improvements.

研究の動機と目的

• AI倫理に関する世界的な関心の高まりに対応し、共通して合意された原則とその導入の障壁を同定すること。
• 理論的なAI倫理ガイドラインと実際の実装課題の間のギャップを調査すること。
• AIシステムの倫理的能力を評価・強化するための成熟度モデルの開発に、実証的入力を提供すること。
• 倫理的知識の不足と原則の曖昧さが、倫理的AI導入の主な障壁であることを浮き彫りにすること。
• 政策立案者や実務家が、産業界および研究分野におけるAI倫理統合の向上に根拠に基づいた知見を提供すること。

提案手法

• キッチンヘムとチャーターズの指針に従い、方法論的厳密性を確保するための系統的文献レビュー（SLR）を実施した。
• パイロットサーチとバックワード・スノーボール法を用いて洗練された検索キーワードを開発し、学術データベースを検索した。
• 繰り返しの合意形成会議を通じて、事前に定めた含む・除外する基準に従い、27件の一次研究を選定した。
• 主題分析と分類を用いて、AI倫理原則と課題を抽出・統合した。
• CMMIの原則と産業界の事例検証を踏まえ、発案された能力成熟度モデル（CMM）フレームワークに照合した。
• パイロットサーチ、バックワード・スノーボール法、構造化されたレビュー・プロトコルを通じて、妥当性の脅かを対処した。

実験結果

リサーチクエスチョン

• RQ1 文献で同定されたAI倫理の主な原則は何か？
• RQ2 実務におけるAI倫理原則の導入を妨げる主な課題は何か？
• RQ3 同定された原則と課題は、AI倫理成熟度モデルの開発にどのように寄与できるか？
• RQ4 異なる文脈において、倫理的AI実装の障壁として頻繁に報告されるものは何か？
• RQ5 文化的要因、技術的要因、組織的要因は、AI倫理原則の解釈と適用にどのように影響を与えるか？

主な発見

• 22の核心的AI倫理原則がグローバルに一致しており、透明性、プライバシー、責任、公平性が最も頻繁に挙げられた。
• AI倫理原則の導入を妨げる主な課題は、実務家における倫理的知識の不足と、倫理ガイドラインの曖昧さである。
• 人権、幸福、データ主権、悪用の認識といった原則は、多様なガイドラインにおいて一貫して強調された。
• 相互に矛盾する倫理的解釈、監視機関の欠如、法的枠組みの不在といった課題は、複数の研究で頻繁に報告された。
• 原則と実務のギャップを埋めるために、標準的で実行可能かつ文脈に適した倫理的ガイダンスの必要性が明確に示された。
• 本研究の知見は、AI開発組織における倫理的能力を評価・向上させるために提案されたAI倫理成熟度モデルの基盤的入力となった。