[论文解读] Joint Optimization of AI Fairness and Utility: A Human-Centered Approach

Yunfeng Zhang, Rachel Bellamy+1 more|arXiv (Cornell University)|Feb 5, 2020

Ethics and Social Impacts of AI参考文献 16被引用 32

一句话总结

本文提出了一种以人为本的框架，通过分析层次过程（AHP）获取政策制定者的偏好，再利用贝叶斯优化寻找能够平衡公平性度量（统计独立差异、加权平均机会差异）与效用的模型阈值，实现AI公平性与效用的联合优化。其核心贡献是一种有原则的、交互式方法，使利益相关方能够透明地定义权衡，从而生成反映现实世界公平性优先事项且保持高效率的模型。

ABSTRACT

Today, AI is increasingly being used in many high-stakes decision-making applications in which fairness is an important concern. Already, there are many examples of AI being biased and making questionable and unfair decisions. The AI research community has proposed many methods to measure and mitigate unwanted biases, but few of them involve inputs from human policy makers. We argue that because different fairness criteria sometimes cannot be simultaneously satisfied, and because achieving fairness often requires sacrificing other objectives such as model accuracy, it is key to acquire and adhere to human policy makers' preferences on how to make the tradeoff among these objectives. In this paper, we propose a framework and some exemplar methods for eliciting such preferences and for optimizing an AI model according to these preferences.

研究动机与目标

• 解决现有AI公平性方法中缺乏政策制定者对公平性与效用权衡输入的问题。
• 开发一种系统化方法，用于获取利益相关方对公平性标准与模型性能的偏好。
• 基于这些偏好优化AI模型，确保公平性与效用根据利益相关方的优先级实现平衡。
• 创建一个透明、交互式的系统，支持各类利益相关方（如法官、被告和公民）参与塑造公平的AI决策。

提出的方法

• 使用分析层次过程（AHP）获取政策制定者在公平性度量（SPD、WAOD）与效用之间的相对偏好。
• 将AHP中的成对比较转化为各度量的归一化权重，并通过自动检查确保一致性。
• 利用获取的权重将公平性与效用合并为单一目标函数，其中效用最大化，公平性度量最小化。
• 应用基于树状帕尔策估计器（TPE）的贝叶斯优化，搜索特权群体与非特权群体的最优分类阈值。
• 通过领域特定的缩放（例如，效用为100，SPD与WAOD为0.1）对度量进行归一化，以统一单位并提升优化稳定性。
• 通过施加法律约束，拒绝分散影响比率超出[0.8, 1.25]范围的解，以确保符合美国平等就业机会委员会（EEOC）指南。

实验结果

研究问题

• RQ1 在高风险AI应用中，如何系统性地获取政策制定者对公平性与效用权衡的偏好？
• RQ2 不同偏好权重设置对最终模型公平性与效用度量的影响是什么？
• RQ3 联合优化框架能否在用户定义的约束下，有效平衡多个公平性标准（SPD与WAOD）与模型效用？
• RQ4 该框架在多样化偏好配置下（包括最大化效用或最小化公平性偏差等极端情况）的表现如何？
• RQ5 该框架能否扩展至聚合具有冲突优先级的多位利益相关方的偏好？

主要发现

• 当偏好优先考虑效用时，该框架成功识别出效用最高的模型（130），实现95.0%的效用与-0.06的SPD。
• 在最小化绝对SPD的设置下，模型实现了近乎完美的公平性，SPD = 0.00，WAOD = 0.14，表明偏差缓解效果显著。
• 在平衡偏好设置下，模型实现95.1%的效用，SPD = -0.01，WAOD = 0.14，展现出公平性与效用之间的良好权衡。
• 贝叶斯优化过程在所有偏好设置下均可靠收敛至最优阈值，表1中一致的度量结果验证了这一点。
• 该框架有效调和了冲突的公平性标准，并在多样化利益相关方视角下实现了透明、有原则的决策制定。