[论文解读] A Causal Perspective on Meaningful and Robust Algorithmic Recourse

Gunnar König, Timo Freiesleben+1 more|arXiv (Cornell University)|Jul 16, 2021

Machine Learning and Algorithms参考文献 20被引用 11

一句话总结

本文提出了有意义的算法可溯性（MAR）及其松弛形式——有效的算法可溯性（EAR），以确保模型识别出的行动不仅改变预测结果，还能改善潜在的目标变量。通过利用因果结构模型并对真实原因实施干预，MAR 保证了可溯行动在模型重训后依然具有意义且稳健，解决了标准反事实解释可能诱导模型操纵但无助于改善现实结果的局限性。

ABSTRACT

Algorithmic recourse explanations inform stakeholders on how to act to revert unfavorable predictions. However, in general ML models do not predict well in interventional distributions. Thus, an action that changes the prediction in the desired way may not lead to an improvement of the underlying target. Such recourse is neither meaningful nor robust to model refits. Extending the work of Karimi et al. (2021), we propose meaningful algorithmic recourse (MAR) that only recommends actions that improve both prediction and target. We justify this selection constraint by highlighting the differences between model audit and meaningful, actionable recourse explanations. Additionally, we introduce a relaxation of MAR called effective algorithmic recourse (EAR), which, under certain assumptions, yields meaningful recourse by only allowing interventions on causes of the target.

研究动机与目标

• 解决标准算法可溯性可能推荐仅改变模型预测但无助于改善实际目标变量的缺陷。
• 区分模型审计（可 contest 性）与可行动可溯性，主张在后者中施加更严格的约束以确保行动的真正意义。
• 构建一个因果框架，通过聚焦于目标变量的真实原因进行干预，确保可溯行动对模型重训具有鲁棒性。
• 在允许对目标变量的完整结构反事实不作要求的前提下，将 MAR 松弛为 EAR，以实现计算上可行的有意义可溯性。
• 证明非有意义的可溯性会导致分布偏移，并损害模型的长期可靠性。

提出的方法

• 提出有意义的算法可溯性（MAR）作为约束条件，仅允许那些能一致改善模型预测 $\hat{Y}$ 和潜在目标 $Y$ 的干预。
• 使用结构因果模型（SCM）定义数据生成过程，并识别目标变量 $Y$ 的直接原因、子节点和配偶节点。
• 对可行动变量应用 do-演算干预 $do(X_i := a_i)$，以模拟不同行动下的反事实结果。
• 引入 EAR 作为 MAR 的松弛形式，仅要求在 $Y$ 的原因上进行干预，前提是预测器在这些干预下保持稳定。
• 推导出目标变量的马尔可夫毯在对其原因实施干预时保持干预稳定性的条件，从而确保条件分布在推荐行动下不发生偏移。
• 采用干预稳定性与条件不变性的概念，保证可溯行动在模型重新训练后依然有效。

实验结果

研究问题

• RQ1 能否通过确保推荐行动同时改善预测与真实目标变量，使算法可溯性对模型重训具有鲁棒性？
• RQ2 为确保对模型输入的干预能一致改善 $\hat{Y}$ 和 $Y$，需满足哪些因果条件？
• RQ3 如何在不牺牲意义的前提下，松弛 MAR 的严格要求，以实现计算上可行的有意义可溯性？
• RQ4 在何种假设下，通过将干预限制在 $Y$ 的原因上，EAR 能够产生有意义的可溯性？
• RQ5 非有意义的可溯性——即通过非因果变量操纵模型——如何导致分布偏移并破坏模型鲁棒性？

主要发现

• MAR 确保所有推荐行动均同时改善模型预测 $\hat{Y}$ 和潜在目标 $Y$，从而防止模型操纵，保障长期鲁棒性。
• 在预测器完美（$f(x) = y$）且预测器特征集 $S$ 的干预稳定性成立的假设下，EAR 保证反事实预测 $\hat{y}^{SCF}$ 与真实反事实目标 $y^{SCF}$ 一致。
• 若 $Y$ 的所有直接原因、子节点和配偶节点均被观测到，则 $Y$ 的马尔可夫毯对其原因的干预具有稳定性，确保条件分布一致。
• 在激励性示例中，'旅行车'等非因果变量可能被模型利用，导致可溯行动仅改变预测而未改善实际风险，凸显因果推理的必要性。
• 即使条件分布保持不变，若干预导致联合分布偏移，模型重训仍可能使推荐失效，凸显因果稳定性的必要性。
• 本文表明，模型管理者应优先关注真实原因而非虚假相关性，以对齐模型审计与可行动可溯性，降低非有意义推荐的风险。