[論文レビュー] AI and Ethics -- Operationalising Responsible AI

Liming Zhu, Xiwei Xu+3 more|arXiv (Cornell University)|May 19, 2021

Ethics and Social Impacts of AI参考文献 31被引用数 9

ひとこと要約

本論文は、AIライフサイクル全体にわたり、高水準の原則、信頼性／信頼性、製品／プロセス支援を統合するフレームワークを提案する。実用的なメカニズムとして、倫理的要件、デザインパターン、継続的モニタリング、倫理認証などのガバナンスモデルを導入し、実世界のAIシステムにおけるステークホルダーの信頼を高め、責任を確保する。

ABSTRACT

In the last few years, AI continues demonstrating its positive impact on society while sometimes with ethically questionable consequences. Building and maintaining public trust in AI has been identified as the key to successful and sustainable innovation. This chapter discusses the challenges related to operationalizing ethical AI principles and presents an integrated view that covers high-level ethical AI principles, the general notion of trust/trustworthiness, and product/process support in the context of responsible AI, which helps improve both trust and trustworthiness of AI for a wider set of stakeholders.

研究の動機と目的

• 高水準の倫理的AI原則とそれらの実世界システムへの実装との間のギャップを埋めること。
• AIシステムにおける技術的信頼性とステークホルダーが感じる信頼性の違いを是正すること。
• 信頼性と信頼性の両方を高めるために、製品レベルおよびプロセスレベルの支援メカニズムを統合すること。
• AIソフトウェア開発ライフサイクル（SDLC）全体にわたり、倫理を統合するための実行可能でスケーラブルな方法を提供すること。
• 倫理認証やインパクトレビューなどの透明性、責任、ガバナンス構造を通じて、ステークホルダーの信頼を高めること。

提案手法

• 倫理的AI原則を3つのカテゴリーに分類する：機能的要件（例：人間の幸福）、非機能的要件（例：公平性、プライバシー）、メタレベルのガバナンス要件。
• 要件工学、価値感受型設計（VSD）、価値中心の要件工学（value-first-RE）を通じて、ソフトウェア工学プロセスに倫理的原則を統合する。
• フェデレーテッドラーニングに信頼メカニズムを組み込んだような、プライバシーや非悪意の性質を設計段階から組み込む設計パターンやシステムアーキテクチャを提案する。
• 展開済みAIモデルにおける倫理的ドリフトやバイアスを検出するための継続的検証およびモニタリングシステムを実装する。
• 内部／外部の倫理レビュー、ステークホルダー代表、AI倫理成熟度認証制度などのガバナンスメカニズムを確立する。
• 責任を特定の役割および実体に結びつけ、意思決定およびAIアーティファクトのプロバンス追跡を通じて、トレーサビリティを確保する。

実験結果

リサーチクエスチョン

• RQ1 高水準の倫理的AI原則は、AI開発ライフサイクル全体にわたりどのように効果的に実装可能か？
• RQ2 技術的信頼性とステークホルダーが感じる信頼性のギャップを埋めるメカニズムは何か？
• RQ3 製品レベルおよびプロセスレベルの支援を統合することで、AIシステムにおける信頼性と信頼性の両方をどのように高められるか？
• RQ4 倫理レビューおよび認証などのガバナンス構造は、責任あるAI実践を制度化するために果たす役割は何か？
• RQ5 要件工学およびシステム設計を含め、倫理的原則をソフトウェア工学の実践に体系的に統合する方法は何か？

主な発見

• 高水準の倫理的原則だけでは、信頼性のあるAIを保証することは不十分であり、製品およびプロセスレベルのメカニズムと統合する必要がある。
• 技術的設計およびデータ実務に根ざした信頼性は、透明性、説明可能性、ステークホルダー参加を通じた認識された信頼性によって補完されるべきである。
• 倫理的原則は、機能的要件、非機能的要件、ガバナンスレベル要件として実装可能であり、後者はステークホルダーの信頼を高める。
• 動的環境において特に、展開後の倫理的リスクを検出するために、継続的モニタリングおよび検証メカニズムが不可欠である。
• 倫理成熟度認証やステークホルダー参加型レビューなどのガバナンスメカニズムは、責任の確保を著しく向上させ、倫理的AI実践を制度化する。
• 多様なプロジェクトチームおよび追跡可能な意思決定プロバンスは、AIシステムにおける責任の確保とバイアス低減に不可欠である。