[論文レビュー] Responsible-AI-by-Design: a Pattern Collection for Designing Responsible AI Systems

Qinghua Lu, Liming Zhu+2 more|arXiv (Cornell University)|Mar 2, 2022

Ethics and Social Impacts of AI被引用数 9

ひとこと要約

本論文は、体系的文献レビューから導出されたシステムレベルのデザインパターンを通じて、責任あるAIをAIシステムに埋め込むパターン指向のアプローチを提案する。12の実行可能で製品レベルのデザインパターン（例：倫理的ブラックボックス、倫理的デジタルツイン、コーバージョンレジストリ）を提示し、アーキテクトや開発者がアーキテクチャの段階からAIライフサイクル全体にわたり、責任性、透明性、倫理的適合性を確保できるように実装可能である。本研究は、責任あるAIを設計段階から組み込むための、初めての明確でシステムレベルの指針を提供する。

ABSTRACT

Although AI has significant potential to transform society, there are serious concerns about its ability to behave and make decisions responsibly. Many ethical regulations, principles, and guidelines for responsible AI have been issued recently. However, these principles are high-level and difficult to put into practice. In the meantime much effort has been put into responsible AI from the algorithm perspective, but they are limited to a small subset of ethical principles amenable to mathematical analysis. Responsible AI issues go beyond data and algorithms and are often at the system-level crosscutting many system components and the entire software engineering lifecycle. Based on the result of a systematic literature review, this paper identifies one missing element as the system-level guidance - how to design the architecture of responsible AI systems. We present a summary of design patterns that can be embedded into the AI systems as product features to contribute to responsible-AI-by-design.

研究の動機と目的

• 高水準の倫理的原則とAIシステムにおける実装のギャップを、システムレベルのデザインに焦点を当てることで解消すること。
• 責任あるAIを実現化するための、再利用可能で実行可能なデザインパターンを特定し、製品機能として埋め込むこと。
• アーキテクトや開発者がAIソフトウェア工学ライフサイクル全体にわたり、倫理的配慮を統合できるライフサイクル認識フレームワークを提供すること。
• アルゴリズム中心の責任あるAIの手法に限界があるのを克服し、アーキテクチャ的・システムレベルのソリューションを強調すること。
• 具体的で追跡可能で実装可能なデザインソリューションを提供することで、原則とアルゴリズムのギャップを埋め、実世界のAI開発実務に根ざしたソリューションを提示すること。

提案手法

• ACM、IEEE、ScienceDirect、Google Scholarを含む主要な学術データベースを対象に、'AI'、'Responsible'、'Solution'などのキーワードを用いて体系的文献レビュー（SLR）を実施した。
• 責任あるAIのための具体的な設計またはプロセス的ソリューションを提示する論文のみを対象とし、高水準のフレームワークや原則にとどまる論文は除外した。
• 特定されたソリューションをハーバード大学の倫理的原則（プライバシー、責任性、安全性・セキュリティ、透明性・説明可能性、公平性、人間の制御、人間の価値）にマッピングした。
• AIシステムライフサイクルの状態遷移を示すステート図を構築し、デザインパターンを特定の状態または遷移（例：プロビジョニング、運用、障害対処）に関連付けた。
• 12のシステムレベルのデザインパターンを提案した。各パターンには名前、目的、構造、適用可能性が明記されており、例としてEthical Black Box、Ethical Digital Twin、Co-versioning Registryが含まれる。
• これらのパターンを統合した「責任あるAIパターンカタログ」を提案し、プロセスチェックリストやオフライン学習手法ではなく、製品レベルの機能に重点を置いた。

実験結果

リサーチクエスチョン

• RQ1 AIシステムに責任あるAIを実装するために再利用可能なシステムレベルのデザインパターンは何か？
• RQ2 これらのデザインパターンは、プロビジョニング済みAIシステムのライフサイクルの特定の状態や遷移にどのようにマッピングできるか？
• RQ3 責任性、透明性、倫理的適合性を実現するためのAIシステムにおける主要なアーキテクチャ的コンポーネントは何か？
• RQ4 倫理的知識、バージョニング、監査を、製品機能としてどのように体系的かつ一貫してAIシステム設計に組み込むことができるか？
• RQ5 デザインパターンは、継続的倫理的検証、フォールトトレランス、責任追跡をどのように支援できるか？

主な発見

• 本研究では、Ethical Black Box や Ethical Digital Twin といった、製品機能として埋め込める実行可能でシステムレベルのデザインパターンを12個同定した。
• これらのパターンは、AIシステムライフサイクルの特定の状態や遷移にマッピングされており、実装のための時間的・文脈的ガイダンスを提供する。
• Ethical Black Box パターンは、センサデータ、意思決定、行動、影響を記録することで、インcidnet発生後の監査を可能にし、責任性と追跡可能性を支援する。
• Co-versioning Registry パターンは、AIコンポーネント、データ、モデル、設定の共進化をライフサイクル全体にわたり追跡することで、プロビナスと信頼性を確保する。
• Ethical Digital Twin は、導入前の段階でシステムレベルのシミュレーションと倫理的リスク評価を可能にし、安全性と信頼性を向上させる。
• Global-View Auditor パターンは、倫理的インシデントの調査において複数のAIシステム間のデータ不整合を解消し、責任特定とシステム信頼性の向上を図る。