[論文レビュー] Implementing AI Ethics: Making Sense of the Ethical Requirements

Mamia Agbese, Rahul Mohanani+2 more|arXiv (Cornell University)|Jun 11, 2023

Ethics and Social Impacts of AI被引用数 6

ひとこと要約

本論文は、中核的および上級のソフトウェア工学（SE）幹部が実務的にAI倫理を実装するのを支援するため、アジャイルポーフォリオ管理フレームワーク内に倫理的リスク要件スタックを提案する。研究では、プライバシーおよびデータガバナンスが法的遵守として扱われる一方で、技術的堅牢性、安全性、社会的幸福といった倫理的要件は、リスクおよび持続可能性要件として最も効果的に実装されることが判明しており、管理実務におけるそれらの可視性と統合が顕著に向上する。

ABSTRACT

Society's increasing dependence on Artificial Intelligence (AI) and AI-enabled systems require a more practical approach from software engineering (SE) executives in middle and higher-level management to improve their involvement in implementing AI ethics by making ethical requirements part of their management practices. However, research indicates that most work on implementing ethical requirements in SE management primarily focuses on technical development, with scarce findings for middle and higher-level management. We investigate this by interviewing ten Finnish SE executives in middle and higher-level management to examine how they consider and implement ethical requirements. We use ethical requirements from the European Union (EU) Trustworthy Ethics guidelines for Trustworthy AI as our reference for ethical requirements and an Agile portfolio management framework to analyze implementation. Our findings reveal a general consideration of privacy and data governance ethical requirements as legal requirements with no other consideration for ethical requirements identified. The findings also show practicable consideration of ethical requirements as technical robustness and safety for implementation as risk requirements and societal and environmental well-being for implementation as sustainability requirements. We examine a practical approach to implementing ethical requirements using the ethical risk requirements stack employing the Agile portfolio management framework.

研究の動機と目的

• 中核的および上級のSE幹部がAIシステムにおける倫理的要件をどのように理解し、実装しているかを調査すること。
• 技術的開発に焦点を当てた研究が多い中で、管理レベルにおける実務的倫理的要件の実装のギャップを埋めること。
• 倫理的要件をリスクおよび持続可能性フレームワークに結びつけることで、SE管理における可視性と実行可能性を高めること。
• 既存のアジャイルポーフォリオ管理ツールを活用して、倫理的要件を管理意思決定に実装する実用的でスケーラブルなアプローチを開発すること。

提案手法

• フィンランドの10名のSE幹部（中核的および上級管理職）を対象に、半構造化インタビューを実施した。
• 倫理的要件の基準フレームワークとして、EUの信頼性のあるAI倫理ガイドラインを用いた。
• アジャイルポーフォリオ管理フレームワークを適用し、倫理的要件が現在どのように検討され、実装されているかを分析した。
• 倫理的要件をリスクおよび持続可能性の懸念として具体化するため、「倫理的リスク要件スタック」を構築した。
• 実務的実装のため、技術的堅牢性、安全性、社会的幸福、環境持続可能性に倫理的要件をマッピングした。
• 簡略化された、すでに利用可能なツールおよびプロセスを用いて、倫理的要件を既存の管理実務に統合する可能性を評価した。

Figure 1. Thematic analysis

実験結果

リサーチクエスチョン

• RQ1 中核的および上級のSE管理は、倫理的要件をどのように理解しているか？
• RQ2 中核的および上級管理レベルにおいて、倫理的要件がどのような価値をもたらすか？
• RQ3 管理意思決定における倫理的要件の価値をどのように向上させられるか？
• RQ4 中核的および上級のSE管理レベルでは、倫理的要件は現在どのように実装されているか？
• RQ5 既存の管理フレームワークを用いて、倫理的要件をどのように実務的に実装できるか？

主な発見

• 幹部らは、主にプライバシーおよびデータガバナンスに関して、倫理的要件を法的・規制的義務として認識しており、広範な倫理的原則の考慮はほとんどない。
• 技術的堅牢性および安全性はリスク要件として扱われるが、社会的および環境的幸福は持続可能性要件としてフレーム化されており、実務的統合への移行が示唆されている。
• 倫理的要件の価値は財務的利益として認識されていないが、リスクおよび持続可能性要件として統合されることで、可視性と戦略的関連性が向上する。
• 「倫理的リスク要件スタック」を用いた実用的アプローチにより、幹部は既存のアジャイルポーフォリオ管理ツールおよびプロセスを通じて倫理的要件を実装できるようになった。
• 本研究は、倫理的要件が抽象的な倫理的原則ではなく、リスクおよび持続可能性の懸念として再定義された場合に、最も効果的に実装されることを明らかにした。
• リスク管理における構造的な倫理的要件フレームワークの欠如により、AIシステムにおける脆弱性や管理されない倫理的リスクが生じている。

Figure 2. Agile portfolio management (Rautiainen and Vähäniitty, 2011 ; Vähäniitty, 2012 )