[論文レビュー] Responsible Artificial Intelligence: A Structured Literature Review

Sabrina Goellner, Marina Tropmann-Frick+1 more|arXiv (Cornell University)|Mar 11, 2024

Ethics and Social Impacts of AI被引用数 6

ひとこと要約

本論文は、Responsible AIを定義し、倫理、信頼性、説明性、プライバシー、セキュリティを強調する人間中心の枠組みを提案するために、構造化された文献レビューを実施し、政策や実践を指針とする。

ABSTRACT

Our research endeavors to advance the concept of responsible artificial intelligence (AI), a topic of increasing importance within EU policy discussions. The EU has recently issued several publications emphasizing the necessity of trust in AI, underscoring the dual nature of AI as both a beneficial tool and a potential weapon. This dichotomy highlights the urgent need for international regulation. Concurrently, there is a need for frameworks that guide companies in AI development, ensuring compliance with such regulations. Our research aims to assist lawmakers and machine learning practitioners in navigating the evolving landscape of AI regulation, identifying focal areas for future attention. This paper introduces a comprehensive and, to our knowledge, the first unified definition of responsible AI. Through a structured literature review, we elucidate the current understanding of responsible AI. Drawing from this analysis, we propose an approach for developing a future framework centered around this concept. Our findings advocate for a human-centric approach to Responsible AI. This approach encompasses the implementation of AI methods with a strong emphasis on ethics, model explainability, and the pillars of privacy, security, and trust.

研究の動機と目的

• Responsible AI の簡潔な定義を明示する
• 倫理、信頼、説明性、プライバシー、セキュリティにわたる Responsible AI の現状を分析する
• 将来の研究の未解決問題、課題、機会を特定する
• Responsible AI の概念に基づく将来の枠組みを開発するためのアプローチを提案する
• 信頼と規制調和を支援する Responsible AI に人間中心のアプローチを提案する

提案手法

• 確立されたガイドラインに従う Systematic Literature Review (SLR)
• ACM、IEEE、SpringerLink、Elsevier ScienceDirect で査読済み論文を対象に検索する
• 倫理、信頼、説明性、プライバシーを含む AI/ML 用語を組み合わせた検索クエリを使用する
• タイトル・要約・キーワードおよび適格性基準でスクリーニングし、関連性の薄い研究を除外する
• 含まれた254論文の質的・量的分析を実施する
• 定義と関連用語を統合して、Responsible AI の統一概念を形成する

Figure 1: Structured review flow chart: the Preferred Reporting Items for Systematic Reviews and Meta-Analyses (PRISMA) flow chart detailing the records identified and screened, the number of full-text articles retrieved and assessed for eligibility, and the number of studies included in the review.

実験結果

リサーチクエスチョン

• RQ1 RQ1 一般的または合意された Responsible AI の定義は何か、どの用語がそれを定義するか？
• RQ2 RQ2 Responsible AI は信頼、倫理、説明性、プライバシー、セキュリティなどの関連概念にわたって何を包含するか？

主な発見

• 用語の重複が著しく、Responsible AI は倫理、信頼性、安全性、プライバシー、説明性として表現されるのが最適である。
• 著者らは以下の定義を提案する：Responsible AI は人間中心であり、倫理的意思決定、 公正で差別のないプロセス、そして法と規範への適合を通じてユーザーの信頼を確保する。
• Explainability、safety、fairness、accountability、ethics、security、privacy、transparency は、定義間での主要な重複語である。
• 信頼は責任ある AI システムの成果として見るべきであり、同時に人間中心の設計は依然として不可欠である。
• 内容的に類似する表現には Trustworthy AI、Ethical AI、Human-Centered AI があり、これらは Responsible AI を定義する核心用語へ収束する。
• 本研究は、Trustworthy AI、Ethical AI、Explainable AI、Privacy-preserving AI、Secure AI などの最新テーマを、相互関係と課題に重点を置いて構造的に描写している。

Figure 2: Venn diagram