[論文レビュー] Survey on AI Ethics: A Socio-technical Perspective

Dave Mbiazi, Meghana Bhange+4 more|arXiv (Cornell University)|Nov 28, 2023

Adversarial Robustness in Machine Learning被引用数 7

ひとこと要約

本論文は、公平性、プライバシー、責任、透明性、安全性、環境的影響を含む主要な原則を統合し、技術的および社会的視点を統合したAI倫理の包括的な社会技術的サーベイを提示する。既存の研究、規制、技術的解決策を統合し、信頼できるAIシステムを構築する包括的なフレームワークを提供する。倫理的設計と現実社会への影響の相互作用に重点を置く。

ABSTRACT

The past decade has observed a significant advancement in AI with deep learning-based models being deployed in diverse scenarios, including safety-critical applications. As these AI systems become deeply embedded in our societal infrastructure, the repercussions of their decisions and actions have significant consequences, making the ethical implications of AI deployment highly relevant and essential. The ethical concerns associated with AI are multifaceted, including challenging issues of fairness, privacy and data protection, responsibility and accountability, safety and robustness, transparency and explainability, and environmental impact. These principles together form the foundations of ethical AI considerations that concern every stakeholder in the AI system lifecycle. In light of the present ethical and future x-risk concerns, governments have shown increasing interest in establishing guidelines for the ethical deployment of AI. This work unifies the current and future ethical concerns of deploying AI into society. While we acknowledge and appreciate the technical surveys for each of the ethical principles concerned, in this paper, we aim to provide a comprehensive overview that not only addresses each principle from a technical point of view but also discusses them from a social perspective.

研究の動機と目的

• ハイステイクスドメインにおけるAIの導入が引き起こす増大する社会的・技術的課題に対処すること。
• 公平性、プライバシー、責任、透明性などの倫理的原則を、技術的および社会的次元を網羅する包括的なフレームワークに統合すること。
• 倫理的AI原則とその現実世界での実装との相互作用、すなわちトレードオフや矛盾を分析すること。
• AIシステムライフサイクルの文脈において、各倫理的原則に対する現在の技術的解決策と規制動向を評価すること。
• AI開発における「フェアウォッシング」、モデルの頑健性、環境持続可能性といった新たな課題を浮き彫りにすること。

提案手法

• 2010年から2018年までの倫理的ガイドライン、規制、技術的文献の体系的レビューを実施すること。
• プライバシーおよびデータ保護、安全性および頑健性、透明性および説明可能性、公平性、責任および責任、環境的影響の6つのコアドメインに倫理的原則を分類すること。
• メンバーシップインファレンス、モデルインバージョン、データポisonsingを含む機械学習における攻撃と防御を分析し、プライバシーおよびセキュリティの脅威に焦点を当てる。
• 微分プライバシー、敵対的トレーニング、フェデレーテッドラーニング、およびモデル解釈技術（例：LIME、SHAP）などの技術的アプローチを調査すること。
• 敵対的デバイアス除去、敵対的リウェイティング、事前処理手法を含む公平性緩和技術を評価すること。
• エネルギー効率指標、モデル最適化、AIインfraストラクチャにおける再生可能エネルギー統合を通じて、AIの環境的影響を評価すること。

実験結果

リサーチクエスチョン

• RQ1 AIライフサイクルの異なる段階において、AI倫理の技術的側面と社会的側面はどのように相互作用するか？
• RQ2 機械学習モデルにおけるプライバシー、公平性、透明性を確保するための主な技術的解決策とその限界は何か？
• RQ3 プライバシーと正確性、または公平性の間で対立する倫理的原則が、現実世界のAIシステムでどのように作用するか？
• RQ4 規制およびコンプライアンスフレームワークは、組織間での倫理的AI実践の強制にどのような役割を果たすか？
• RQ5 AIは環境持続可能性にどの程度貢献できるか。また、エネルギー消費とハードウェア使用における関連するトレードオフは何か？

主な発見

• 特に外部委託または事前学習済みモデルにおいて、メンバーシップインファレンスやモデルインバージョン攻撃などの脆弱性により、プライバシーおよびデータ保護が大きな懸念事項のままである。
• 微分プライバシーおよび敵対的トレーニングなどの技術的防御はモデルの頑健性を向上させるが、正確性や公平性とのトレードオフを伴うことが多い。
• 敵対的デバイアス除去などの公平性緩和技術は人口統計的格差を低減するが、感受性属性が使用される場合、プライバシーと矛盾する可能性がある。
• LIME や SHAP などの説明可能ツールは透明性を向上させるが、誤解を招くまたは一貫性のない説明を生成しやすいという点で、「フェアウォッシング」を助長するリスクがある。
• AIシステムはエネルギー効率の向上および再生可能エネルギー統合を促進できるが、そのトレーニングおよび推論プロセスには顕著な環境的影響があり、最適化が求められる。
• 責任およびコンプライアンスの強制を目的とした規制フレームワークが登場しているが、倫理的ベンチマークの標準化および組織間でのAIシステム監査の課題は依然として残っている。