[論文レビュー] Connecting the Dots in Trustworthy Artificial Intelligence: From AI Principles, Ethics, and Key Requirements to Responsible AI Systems and Regulation

Natalia Díaz-Rodríguez, Javier Del Ser+4 more|arXiv (Cornell University)|May 2, 2023

Ethics and Social Impacts of AI被引用数 34

ひとこと要約

この論文は、倫理原則、哲学的倫理、リスクベース規制、技術要件を結びつけ、監査と規制サンドボックスを促進する責任あるAIシステムを定義する包括的なフレームワークを提示します。

ABSTRACT

Trustworthy Artificial Intelligence (AI) is based on seven technical requirements sustained over three main pillars that should be met throughout the system's entire life cycle: it should be (1) lawful, (2) ethical, and (3) robust, both from a technical and a social perspective. However, attaining truly trustworthy AI concerns a wider vision that comprises the trustworthiness of all processes and actors that are part of the system's life cycle, and considers previous aspects from different lenses. A more holistic vision contemplates four essential axes: the global principles for ethical use and development of AI-based systems, a philosophical take on AI ethics, a risk-based approach to AI regulation, and the mentioned pillars and requirements. The seven requirements (human agency and oversight; robustness and safety; privacy and data governance; transparency; diversity, non-discrimination and fairness; societal and environmental wellbeing; and accountability) are analyzed from a triple perspective: What each requirement for trustworthy AI is, Why it is needed, and How each requirement can be implemented in practice. On the other hand, a practical approach to implement trustworthy AI systems allows defining the concept of responsibility of AI-based systems facing the law, through a given auditing process. Therefore, a responsible AI system is the resulting notion we introduce in this work, and a concept of utmost necessity that can be realized through auditing processes, subject to the challenges posed by the use of regulatory sandboxes. Our multidisciplinary vision of trustworthy AI culminates in a debate on the diverging views published lately about the future of AI. Our reflections in this matter conclude that regulation is a key for reaching a consensus among these views, and that trustworthy and responsible AI systems will be crucial for the present and future of our society.

研究の動機と目的

• 信頼できるAIの多軸ビューを、原則、倫理、規制、技術要件を横断して統合する。
• 責任あるAIシステムの実現のために、AI原則を実用的な要件と監査プロセスへ翻訳する。
• 実用的なガバナンスモデルとしてEU AI Actのリスクベース規制を分析する。
• 規制と技術・組織的実践を統合する結果として、責任あるAIシステムを提案する。

提案手法

• ユネスコ、テレフォニカ、EUの倫理原則を分析して、信頼できるAIの核となる概念を抽出する。
• 信頼できるAIを4つの軸（倫理原則、哲学倫理、リスクベース規制、技術要件）に分解する。
• What, Why, How の視点を通じて、7つの技術・ガバナンス要件（人間の主体性と監督、頑健性と安全性、プライバシーとデータ統治、透明性、多様性と公平性、社会的・環境的福祉、説明責任）を検討する。
• 規制サンドボックスと監査を、AIシステムにおける責任を実践的に運用する手段として議論する。
• 監査とコンプライアンスを示すための、医療AIのケーススタディ志向の視点を提供する。
• 一般目的AIや動的規制を含む未来の方向性を議論する。」],
• research_questions:[

実験結果

リサーチクエスチョン

• RQ1 倫理原則、哲学、規制、技術要件の跨域で、信頼できるAIをどのように運用可能とするか。
• RQ2 七つの信頼性要件の具体的な実装と監査アプローチは何か。
• RQ3 リスクベースのEU AI Actの枠組みは、高リスクAIシステムに対して現実的な義務へとどのように翻訳されるのか。
• RQ4 規制サンドボックスは責任あるAIシステムの実現においてどのような役割を果たすのか。
• RQ5 GPAISや神経科学技術といった新興AIシステムに関する論争と規制上のギャップは何か。

主な発見

• 信頼できるAIは、原則、倫理、規制、技術を結ぶ四つの軸に基づく。
• 七つの信頼性要件は、それが何であるか、なぜ必要か、実践でどう実装するかの観点で分析できる。
• 規制サンドボックスと監査は、責任あるAIシステムを実現する実用的な手段として提案されている。
• EU AI Actはリスクベースのアプローチを採用し、四つのリスクレベルと高リスクシステムに対する具体的義務を設けている。
• 高リスクAIのカテゴリには、法執行、教育アクセス、採用、重要インフラなどが含まれ、適合性評価とガバナンスに情報を提供する。