[論文レビュー] Responsible AI by Design in Practice

Richard Benjamins, Alberto Barbado+1 more|arXiv (Cornell University)|Sep 27, 2019

Ethics and Social Impacts of AI参考文献 35被引用数 36

ひとこと要約

本論文は、大規模組織における望ましくないAIの影響を最小化するための企業全体方針の実装事例を実践的に提示し、技術的および組織的手順を強調している。

ABSTRACT

Recently, a lot of attention has been given to undesired consequences of Artificial Intelligence (AI), such as unfair bias leading to discrimination, or the lack of explanations of the results of AI systems. There are several important questions to answer before AI can be deployed at scale in our businesses and societies. Most of these issues are being discussed by experts and the wider communities, and it seems there is broad consensus on where they come from. There is, however, less consensus on, and experience with how to practically deal with those issues in organizations that develop and use AI, both from a technical and organizational perspective. In this paper, we discuss the practical case of a large organization that is putting in place a company-wide methodology to minimize the risk of undesired consequences of AI. We hope that other organizations can learn from this and that our experience contributes to making the best of AI while minimizing its risks.

研究の動機と目的

• AI展開におけるバイアス、差別、説明性の課題に取り組む必要性を動機づける。
• 大規模組織が企業全体の責任あるAIの方法論をどのように構造化し実行するかを説明する。
• 実世界の環境で責任あるAI実践を適用して得られた教訓を共有する。

提案手法

• 責任あるAI設計方法論を採用した大規模組織の実践的ケーススタディを提示する。
• AIリスクを最小化するための技術的アプローチと組織的アプローチの統合について論じる。
• 責任あるAIを運用化するために用いられるガバナンス構造、プロセス、ワークフローを強調する。
• AAAI Fall SymposiumのHuman-Centered AI: Trustworthinessトラックでの経験から得られた洞察を提供する。

実験結果

リサーチクエスチョン

• RQ1 組織は現実世界の展開でAIの望ましくない結果を最小化するためにどのような実践的手順を取ることができるか？
• RQ2 技術的および組織的実践をどのように組み合わせて規模の大きな信頼できるAIを設計できるか？
• RQ3 組織における責任あるAIのために効果的なガバナンス、リスク管理、評価アプローチはどれか？

主な発見

• 現実世界のケースは、大規模組織が企業全体の責任あるAI方法論を実装できることを示している。
• 責任あるAIを運用化する際の組織的課題と推進要因に関する洞察。
• 実務でAIリスクを最小化するために必要なガバナンス、プロセス、ワークフローの議論。
• AAAI Fall Symposium on Trustworthy AI Models & Data のHAiトラックへの参加から得られたエビデンス。