[論文レビュー] Mapping the Potential of Explainable AI for Fairness Along the AI Lifecycle

Luca Deck, Astrid Schomäcker+4 more|arXiv (Cornell University)|Apr 29, 2024

Impact of AI and Big Data on Business and SocietyDecision Sciences被引用数 3

ひとこと要約

本稿は、AIシステムにおける8つの明確に異なる公平性の望ましい特性を特定し、AIのライフサイクル段階に沿ってマッピングし、説明可能なAI（XAI）技術が各公平性目標を最も関連性の高いライフサイクル段階でどのように達成できるかを分析している。主な貢献は、開発・運用・監視の各段階において、特定の公平性目的と的確なXAIの干渉を結びつける体系的なフレームワークを提示している点である。

ABSTRACT

The widespread use of artificial intelligence (AI) systems across various domains is increasingly surfacing issues related to algorithmic fairness, especially in high-stakes scenarios. Thus, critical considerations of how fairness in AI systems might be improved -- and what measures are available to aid this process -- are overdue. Many researchers and policymakers see explainable AI (XAI) as a promising way to increase fairness in AI systems. However, there is a wide variety of XAI methods and fairness conceptions expressing different desiderata, and the precise connections between XAI and fairness remain largely nebulous. Besides, different measures to increase algorithmic fairness might be applicable at different points throughout an AI system's lifecycle. Yet, there currently is no coherent mapping of fairness desiderata along the AI lifecycle. In this paper, we we distill eight fairness desiderata, map them along the AI lifecycle, and discuss how XAI could help address each of them. We hope to provide orientation for practical applications and to inspire XAI research specifically focused on these fairness desiderata.

研究の動機と目的

• 公平性の目標とAIライフサイクルとの間の整合性のないマッピングの欠如に対処すること。
• AIにおける公平性の多様な概念を明確にし、それらを独立した望ましい特性として区別すること。
• XAI技術が、ライフサイクルの異なる段階で、特定の公平性目標を戦略的に達成するためにどのように適用できるかを検討すること。
• 研究者・開発者・規制当局が公平性を重視したXAI開発をガイドするための体系的で多様な分野にまたがる基盤を提供すること。
• COMPAS再犯予測システムに関する事例研究を通じて、フレームワークの実用性を示すこと。

提案手法

• 著者たちは、学際的文献から8つの公平性の望ましい特性を抽出した：公平性の理解、データの公平性、形式的公平性、認識された公平性、人的監視を伴う公平性、力の与与公平性、長期的公平性、情報の公平性。
• 各公平性の望ましい特性を、データ収集、モデル学習、運用、監視などのAIライフサイクルの特定の段階にマッピングし、それぞれの公平性目標が最も関連性を持つ段階に基づいた。
• マッピングされた各望ましい特性について、特徴量の重要度、対向的説明、後処理による解釈可能性などのXAI手法が、そのライフサイクル段階でどの程度適切に機能するかを分析した。
• フレームワークは、COMPAS再犯予測アルゴリズムに関する詳細な事例研究を通じて検証された。これにより、XAIがライフサイクルの異なる段階で公平性の目標と整合する方法が実証された。
• コンピュータサイエンス、倫理学、法制度、社会学の知見を統合することで、概念的強固さと多様分野への関連性を確保した。
• 著者たちは、規定的なプロセスモデルを提示するのではなく、ライフサイクルの文脈に基づいてXAIと公平性の目的を結びつける概念的ロードマップを提示した。

実験結果

リサーチクエスチョン

• RQ1 AIライフサイクルの異なる段階で、どの公平性の望ましい特性が最も関連性が高いか？
• RQ2 XAI技術は、どのライフサイクル段階で最も適切な公平性目標を達成するために戦略的に選択されるべきか？
• RQ3 現在のXAIアプローチには、技術的公平性を超えた多様な公平性の概念に対処する上でどのような限界があるか？
• RQ4 COMPAS事例は、XAIをライフサイクル全体にわたり公平性と整合させる可能性と課題をどのように示しているか？
• RQ5 このフレームワークは、低リスクおよび生成的AIシステムへ一般化可能か、どの程度まで可能か？

主な発見

• 本研究では、概念的に独立しており、互いに排他的ではない8つの明確に異なる公平性の望ましい特性を特定した。それぞれが、ライフサイクルの異なる段階で、的確な干渉が必要である。
• XAIは公平性の万能薬ではない。特定のXAI手法を、適切なライフサイクル段階で、特定の公平性目標と一致させることで、その有効性が決まる。
• COMPASの事例研究は、XAIが偏りのある結果を検出・説明するのを支援できることを示しており、特に認識された公平性や人的監視を伴う公平性を支援する際に顕著である。
• 長期的公平性と力の与与公平性は、特に運用後段階において、継続的監視とユーザーの自律性を支援するXAIメカニズムによって最も効果的に達成できる。
• フレームワークは、認識された公平性や情報の公平性といった非技術的公平性次元が、現在のXAI研究ではしばしば見過ごされていることを明らかにした。これらはステークホルダーの信頼にとって不可欠である。
• 本アプローチは、低リスクとされる生成的AIシステムですら、代表的有害性を引き継ぐ可能性があり、公平性に配慮したXAIの導入が、開発の初期段階から必要であることを強調している。