[論文レビュー] AI Ethics Principles in Practice: Perspectives of Designers and Developers

Conrad Sanderson, David C. Douglas+8 more|arXiv (Cornell University)|Dec 14, 2021

Ethics and Social Impacts of AI被引用数 8

ひとこと要約

本研究は、オーストラリアの国立研究機関（CSIRO）に所属するAI開発者およびデザイナーが、実務においてハイレベルなAI倫理原則をどのように解釈し、実装しているかを調査する。半構造化インタビューを通じて、透明性対プライバシー、説明可能性対正確性といった原則間の主な対立を同定し、各原則を別々に運用化するための設計ノートを提案することで、責任あるAI開発における実務的適用を促進し、曖昧さを低減する。

ABSTRACT

As consensus across the various published AI ethics principles is approached, a gap remains between high-level principles and practical techniques that can be readily adopted to design and develop responsible AI systems. We examine the practices and experiences of researchers and engineers from Australia's national scientific research agency (CSIRO), who are involved in designing and developing AI systems for many application areas. Semi-structured interviews were used to examine how the practices of the participants relate to and align with a set of high-level AI ethics principles proposed by the Australian Government. The principles comprise: (1) privacy protection and security, (2) reliability and safety, (3) transparency and explainability, (4) fairness, (5) contestability, (6) accountability, (7) human-centred values, (8) human, social and environmental wellbeing. Discussions on the gained insights from the interviews include various tensions and trade-offs between the principles, and provide suggestions for implementing each high-level principle. We also present suggestions aiming to enhance associated support mechanisms.

研究の動機と目的

• CSIROに所属するAIデザイナーおよび開発者が、実世界のプロジェクトにおいてハイレベルなAI倫理原則をどのように解釈し、適用しているかを理解すること。
• AIシステム設計における公平性、透明性、プライバシーといったコアな原則を実装する際の実務的課題や対立を同定すること。
• 各原則ごとに構造化された設計ノートを提示することで、抽象的な倫理原則と実行可能な設計実務の間のギャップを埋めること。
• ツール、ガバナンス、職業的基準に関する的確な提言を通じて、倫理的AI開発のための組織的支援メカニズムを強化すること。

提案手法

• CSIROに所属する多様な応用分野にまたがるAI研究者およびエンジニアを対象に、半構造化インタビューを実施した。
• インタビューのデータをテーマ的分析の枠組みとして、オーストラリア連邦政府の8つのAI倫理原則を用いた。
• 質的テーマコードによる分析を通じて、説明可能性対プライバシー、信頼性対公平性といった原則間の繰り返し発生する対立やトレードオフ（例：説明可能性対プライバシー、信頼性対公平性）を同定した。
• 「設計ノート」—原則別に具体的なガイダンス—を提示することで、密接に関連する概念（例：透明性対説明可能性）を分離し、実装の明確さを向上させた。
• 開発者の解釈と実践を分析し、組織的支援、ツール、ガバナンスフレームワークに関する提言を導いた。
• 既存の文献からの知見を統合することで、倫理的AI実装のための設計提言を洗練させ、文脈に即した形にした。

実験結果

リサーチクエスチョン

• RQ1 CSIROに所属するAI開発者およびデザイナーは、実世界のシステム開発において8つのハイレベルなAI倫理原則をどのように解釈し、適用しているか。
• RQ2 AIシステム設計および実装の過程で、対立する倫理原則の間でどのような実務的対立やトレードオフが生じるか。
• RQ3 ハイレベルな倫理原則を、責任あるAI開発のための実行可能で開発者フレンドリーなガイダンスにどのように具体化できるか。
• RQ4 抽象的なフレームワークを越えてAI倫理原則を効果的に実装するためには、どのような組織的および技術的支援メカニズムが必要か。
• RQ5 開発者はどのようにして透明性と説明可能性といった異なる概念を混同しており、設計実務ではこれをどのように是正できるか。

主な発見

• 開発者は透明性と説明可能性を頻繁に混同しており、その結果、透明性が独立した設計要件として十分に重視されない傾向がある。
• プライバシーとセキュリティはしばしば同一の原則として扱われるが、実務では区別される。セキュリティはシステムレベルの強化に焦点を当て、プライバシーはデータ取り扱い技術に焦点を当てる。
• フェデレーテッドラーニングや微分プライバシーといった技術はプライバシーを向上させるが、モデルの正確性を低下させる可能性があり、明確なトレードオフが生じる。
• 説明可能なAIシステムは、モデルの出力が訓練データに関する機微な情報を露呈する可能性があるため、新たなプライバシーリスクを引き起こすことがある。
• 高リスク分野では、信頼性や安全性が公平性よりも優先される傾向にあり、明示的に対処されない限り、バイアスの拡大が生じる可能性がある。
• 原則別に明確な設計ガイダンスが欠如しているため、実装が一貫性を欠き、開発者は事後的または一時的な解決策に依存するのではなく、予め計画された倫理的設計パターンを採用しない傾向にある。