[论文解读] Causal Modeling for Fairness in Dynamical Systems

Elliot Creager, David Madras+2 more|arXiv (Cornell University)|Sep 18, 2019

Advanced Causal Inference Techniques参考文献 35被引用 10

一句话总结

本文提出使用因果有向无环图（DAG）作为建模动态系统中公平性的统一框架，支持在群体和个体层面分析短期与长期结果的干预效果。研究表明，当系统动态未知时，因果建模可提升离策略估计性能；当动态已知时，可作为灵活的模拟器。关键结果表明，政策鲁棒性对弱势群体结果预测假设极为敏感。

ABSTRACT

In many application areas---lending, education, and online recommenders, for example---fairness and equity concerns emerge when a machine learning system interacts with a dynamically changing environment to produce both immediate and long-term effects for individuals and demographic groups. We discuss causal directed acyclic graphs (DAGs) as a unifying framework for the recent literature on fairness in such dynamical systems. We show that this formulation affords several new directions of inquiry to the modeler, where causal assumptions can be expressed and manipulated. We emphasize the importance of computing interventional quantities in the dynamical fairness setting, and show how causal assumptions enable simulation (when environment dynamics are known) and off-policy estimation (when dynamics are unknown) of intervention on short- and long-term outcomes, at both the group and individual levels.

研究动机与目标

• 使用因果有向无环图（DAG）统一动态系统中公平性的零散文献。
• 在环境动态已知时，实现政策干预的模拟。
• 在系统动态未知时，利用观测数据和因果假设，改进离策略估计与学习。
• 通过模型扩展与敏感性分析，分析长期公平性影响。
• 评估模型不匹配对策略鲁棒性的影响，尤其关注对敏感群体结果预测的敏感性。

提出的方法

• 使用具有内生与外生节点及结构方程的结构因果模型（SCM）形式化动态系统中的公平性。
• 应用do算子计算干预分布，与观测条件分布相区分。
• 通过策略干预（do(f_T → π)）模拟时间步长上决策规则的变化。
• 通过递归更新状态变量（如 X^{t+1} = f_X(X^t, Y^t, T^t)）将SCM扩展为多步模型。
• 通过干预结构方程（如 do(f_Y → f̂_Y)）进行敏感性分析，评估模型误设下的鲁棒性。
• 利用SCM的模块化特性，模拟长期影响，并在分布偏移下评估策略性能。

实验结果

研究问题

• RQ1 因果DAG如何作为统一框架，适用于多样化应用场景中的动态系统公平性？
• RQ2 在短期内看似公平的政策，其长期公平性影响是什么？
• RQ3 当系统动态未知时，因果模型如何提升离策略估计性能？
• RQ4 结果预测中的模型误设如何影响策略鲁棒性与公平性？
• RQ5 机构利润与群体层面结果在多大程度上对结构方程假设敏感？

主要发现

• 机构利润对模型不匹配相对稳健，尤其在对处理函数实施干预（do(f_T → f̂_T^EO)）时。
• 按群体划分的结果变化对模型误设极为敏感，尤其当干预中使用错误的结果分布（p(Y|X) 而非 p(Y|X,A)）时。
• 通过递归扩展SCM，长期影响的模拟是可行且具有信息量的，揭示了由于A相关T^t与Y^t动态导致的持续群体差异。
• 通过结构方程干预（如 do(f_Y → f̂_Y)）进行的敏感性分析，能有效量化策略对结果预测错误假设的脆弱性。
• 因果框架支持系统化的模型扩展与分析，既支持在线策略评估，也支持在分布偏移下的鲁棒性测试。
• 因果建模通过在明确因果假设下利用观测数据，显著提升了未知动态下的离策略学习与估计性能。