[論文レビュー] Responsible Artificial Intelligence -- from Principles to Practice

Virginia Dignum|arXiv (Cornell University)|May 22, 2022

Ethics and Social Impacts of AI被引用数 4

ひとこと要約

本論文は、価値感受性設計を通じて倫理的原則を技術的設計に統合する包括的なフレームワークを提案する。透明性、説明可能性、ステークホルダーの参加を重視し、信頼性を実装するためのGlass Boxフレームワークを導入。性能のみに注目するのではなく、価値に整合した説明可能なAIシステムの構築へと焦点を移す。

ABSTRACT

The impact of Artificial Intelligence does not depend only on fundamental research and technological developments, but for a large part on how these systems are introduced into society and used in everyday situations. AI is changing the way we work, live and solve challenges but concerns about fairness, transparency or privacy are also growing. Ensuring responsible, ethical AI is more than designing systems whose result can be trusted. It is about the way we design them, why we design them, and who is involved in designing them. In order to develop and use AI responsibly, we need to work towards technical, societal, institutional and legal methods and tools which provide concrete support to AI practitioners, as well as awareness and training to enable participation of all, to ensure the alignment of AI systems with our societies' principles and values.

研究の動機と目的

• 倫理的AI原則とその実世界における実装の間のギャップを解消すること。
• AIが本質的に知的であるか、魔法のようなものであるという誤解を解き、それがデータ駆動型のアルゴリズム的ツールであることを明確にすること。
• 多様なステークホルダーを関与させ、倫理的優先順位とシステム要件を定義することで、包括的で価値感受性の高い設計を促進すること。
• 責任、透明性、公平性を確保するための技術的および社会的・法的メソッドを開発すること。
• 責任と規制をイノベーションの障壁ではなく、信頼性があり持続可能なAI開発を促進する要因として再定義すること。

提案手法

• 抽象的な倫理的原則（例：公平性、プライバシー）を具体的なシステム要件に翻訳するため、価値のための設計（Design for Values）アプローチを採用する。
• 透明性と説明可能性を備えたAIシステムを構築するためのモジュラで検証統合型の手法として、Glass Boxフレームワークを導入する。
• 価値の抽出、優先順位付け、設計意思決定の文書化において、ステークホルダーの参加を重視する。
• データガバナンス、パワーのダイナミクス、社会的影響を含め、AI開発ライフサイクルに社会的・技術的要因を統合する。
• パフォーマンス中心のAI開発から価値中心の設計へとシフトし、因果関係、抽象化、事前知識を統合する。
• アルゴリズム的、ユーザー制御的、または規制的などの構造的道徳的ディスカッション手法を用い、システム行動における倫理的選択を実装する。

実験結果

リサーチクエスチョン

• RQ1 公平性、透明性、プライバシーといった倫理的原則を、どのように体系的に技術的システム要件に翻訳できるか？
• RQ2 AI設計において、多様なステークホルダー間で包括的かつ透明性のある価値の抽出を可能にする方法は何か？
• RQ3 パフォーマンスやスケーラビリティを損なわずに、AIシステムを説明可能かつ検証可能に構築するにはどうすればよいか？
• RQ4 AIを「魔法」や「避けがたい進歩」として描く現在の物語は、責任ある開発をどのように妨げているか？
• RQ5 責任と規制を、イノベーションの障壁ではなく、イノベーションを可能にする要因として再定義するにはどうすればよいか？

主な発見

• 透明性、正義と公平性、非悪、責任、プライバシーの5つの核心的倫理的原則について、世界的な合意が形成されている。
• 倫理的原則に広範な合意がある一方で、その実装方法や解釈は組織やガイドラインによって顕著に異なる。
• AIは知的でも、魔法でもない。パターン、入力データの質、設計選択に依存するデータ駆動型の統計的ツールであり、データとアルゴリズム的意思決定は根本的に政治的である。
• Glass Boxフレームワークは、価値に基づく設計と形式的検証手法を統合することで、モジュラで検証可能で透明なAIシステムの構築を可能にする。
• パフォーマンス志向のAI開発から価値志向の設計へとシフトするには、因果関係、抽象化、事前知識を統合する形でAIイノベーションのあり方を再考する必要がある。
• 責任あるAIとは、バイアスの是正や公平性の確保にとどまらず、AIの考案、構築、ガバナンスのあり方を包括的かつシステム的変革として捉えるべきである。