[论文解读] Mapping the Potential of Explainable AI for Fairness Along the AI Lifecycle

Luca Deck, Astrid Schomäcker+4 more|arXiv (Cornell University)|Apr 29, 2024

Impact of AI and Big Data on Business and SocietyDecision Sciences被引用 3

一句话总结

本文識別出人工智慧系統中的八種不同公平性期望，將其映射至人工智慧生命周期各階段，並分析可解釋人工智慧（XAI）技術如何在最相關的生命周期階段應對每一項公平性目標。主要貢獻在於建立一個系統性框架，將特定的公平性目標與開發、部署及監控過程中針對性的XAI干預措施連結起來。

ABSTRACT

The widespread use of artificial intelligence (AI) systems across various domains is increasingly surfacing issues related to algorithmic fairness, especially in high-stakes scenarios. Thus, critical considerations of how fairness in AI systems might be improved -- and what measures are available to aid this process -- are overdue. Many researchers and policymakers see explainable AI (XAI) as a promising way to increase fairness in AI systems. However, there is a wide variety of XAI methods and fairness conceptions expressing different desiderata, and the precise connections between XAI and fairness remain largely nebulous. Besides, different measures to increase algorithmic fairness might be applicable at different points throughout an AI system's lifecycle. Yet, there currently is no coherent mapping of fairness desiderata along the AI lifecycle. In this paper, we we distill eight fairness desiderata, map them along the AI lifecycle, and discuss how XAI could help address each of them. We hope to provide orientation for practical applications and to inspire XAI research specifically focused on these fairness desiderata.

研究动机与目标

• 解決公平性目標與人工智慧生命周期之間缺乏一致對應關係的問題。
• 釐清人工智慧中多樣化的公平性概念，並將其區分為獨立的期望項目。
• 探討如何策略性地應用XAI技術，以在不同生命周期階段實現特定的公平性目標。
• 為研究人員、開發人員與監管機構提供一個結構化且跨學科的基礎，以引導以公平性為導向的XAI發展。
• 透過COMPAS再犯預測系統的案例研究，展示該框架的實用性。

提出的方法

• 作者從跨學科文獻中萃取出八項公平性期望：公平性理解、資料公平性、形式公平性、感知公平性、具人為監督的公平性、賦權型公平性、長期公平性與資訊公平性。
• 根據各項公平性目標在生命周期中最具相關性的時機，將每一項公平性期望映射至人工智慧生命周期的特定階段，如資料收集、模型訓練、系統部署與監控等。
• 針對每一項已映射的期望，分析在該生命周期階段最適合用以應對其目標的XAI方法（例如特徵重要性、反事實解釋、事後可解釋性等）。
• 透過對COMPAS再犯預測演算法的詳細案例研究，驗證該框架，展示XAI如何在不同生命周期階段與公平性目標對齊。
• 整合電腦科學、倫理學、法律與社會科學的洞見，以確保概念上的穩固性與跨學科的相關性。
• 作者未提出預設的流程模型，而是提供一個基於生命周期脈絡的、概念性路徑圖，以協助XAI與公平性目標對齊。

实验结果

研究问题

• RQ1 在人工智慧生命周期的不同階段，哪些公平性期望最為相關？
• RQ2 如何策略性地選擇XAI技術，以在最適切的生命周期階段應對特定的公平性目標？
• RQ3 目前的XAI方法在應對技術公平性以外的多樣化公平性概念時，存在哪些限制？
• RQ4 COMPAS案例如何體現XAI與公平性在整個生命周期中對齊的潛力與挑戰？
• RQ5 此框架在低風險與生成式人工智慧系統中，其適用性可擴展至何種程度？

主要发现

• 本研究識別出八項在概念上彼此區分且不互斥的公平性期望，每一項均需在不同生命周期階段實施量身訂做的干預措施。
• XAI並非適用於所有公平性問題的萬靈丹；其成效取決於在適當的生命周期階段，將特定的XAI方法與特定的公平性目標對齊。
• COMPAS案例研究顯示，XAI有助於偵測與解釋偏誤結果，特別是在支援感知公平性與具人為監督的公平性時尤為有效。
• 長期公平性與賦權型公平性最有效的方式，是透過支援持續監測與使用者主導權的XAI機制來達成，特別是在系統部署後的階段。
• 該框架顯示，目前的XAI研究經常忽略非技術性公平維度，例如感知公平性與資訊公平性，而這些維度對利益相關者的信任至關重要。
• 該方法強調，即使被標示為低風險的生成式人工智慧系統，仍可能持續造成代表性傷害，因此從一開始就需具備公平性意識的XAI設計。