[论文解读] How Do Fair Decisions Fare in Long-term Qualification?

Xueru Zhang, Ruibo Tu+5 more|arXiv (Cornell University)|Oct 21, 2020

Ethics and Social Impacts of AI参考文献 25被引用 9

一句话总结

本文使用部分可观察的马尔可夫决策过程（POMDP）框架，研究静态公平约束在序列决策系统中的长期影响。研究发现，公平约束可能减少或加剧资格差异，具体取决于特征分布对决策的敏感性，并识别出在这些约束下实现均衡资格率的阈值策略。

ABSTRACT

Although many fairness criteria have been proposed for decision making, their long-term impact on the well-being of a population remains unclear. In this work, we study the dynamics of population qualification and algorithmic decisions under a partially observed Markov decision problem setting. By characterizing the equilibrium of such dynamics, we analyze the long-term impact of static fairness constraints on the equality and improvement of group well-being. Our results show that static fairness constraints can either promote equality or exacerbate disparity depending on the driving factor of qualification transitions and the effect of sensitive attributes on feature distributions. We also consider possible interventions that can effectively improve group qualification or promote equality of group qualification. Our theoretical results and experiments on static real-world datasets with simulated dynamics show that our framework can be used to facilitate social science studies.

研究动机与目标

• 理解算法决策中的静态公平约束如何影响长期群体资格率。
• 对序列决策中决策、个体行为与演化特征分布之间的反馈回路进行建模。
• 使用POMDP框架表征在公平约束下的资格率均衡状态。
• 识别公平约束促进平等或加剧差异的长期结果的条件。
• 提出有效的干预措施，以改善群体资格率或在均衡状态下促进公平。

提出的方法

• 将决策过程建模为离散时间POMDP，其中个体对决策的响应会随时间改变其特征和资格状态。
• 使用基于阈值的策略，根据特征分布确定决策，阈值通过平衡公平性与效用得出。
• 利用依赖于转移概率和公平约束的不动点方程表征均衡资格率。
• 应用均值定理和反函数分析，证明在特定条件下均衡的存在性与唯一性。
• 使用合成数据集和真实世界数据集模拟动态过程并验证理论发现。
• 引入干预措施，如调整转移概率或实施有针对性的政策变更，以改善长期公平性。

实验结果

研究问题

• RQ1 在何种条件下，静态公平约束会导致群体间长期资格差异的改善或恶化？
• RQ2 决策与个体行为之间的反馈动态如何影响均衡资格率的稳定性和公平性？
• RQ3 哪些类型的政策干预能有效促进均衡状态下的群体资格平等？
• RQ4 基于阈值的策略是否能在公平约束下实现稳定的均衡资格率？在何种条件下该均衡唯一？
• RQ5 特征分布对决策结果的敏感性如何影响公平约束的长期影响？

主要发现

• 静态公平约束可能减少或增加资格差异，具体取决于资格转移的驱动因素是有利于还是阻碍弱势群体。
• 当不同群体的转移概率可行集存在重叠时，资格率存在唯一均衡，确保长期结果的稳定性。
• 当转移概率对决策结果敏感时，由于反馈回路的存在，公平约束可能导致意外的长期差异。
• 通过调整转移概率的干预措施——如提高弱势群体努力的有效性——可实现更高的均衡资格率并提升公平性。
• 理论分析表明，阈值策略可稳定资格率，且当比值函数的反函数有定义且单调时，均衡唯一。
• 在合成数据集和真实世界数据集上的实验结果证实，该框架能准确预测长期公平性结果，并支持跨领域的政策分析。