[论文解读] A survey of algorithmic recourse: definitions, formulations, solutions, and prospects

Amir-Hossein Karimi, Gilles Barthe+2 more|arXiv (Cornell University)|Oct 8, 2020

Ethics and Social Impacts of AI参考文献 197被引用 45

一句话总结

本论文综述算法性追因（recourse），区分对比性解释与结果性/后果性推荐，并提供统一的定义、形式化与解决方案，同时概述未来的研究方向与伦理关联。

ABSTRACT

Machine learning is increasingly used to inform decision-making in sensitive situations where decisions have consequential effects on individuals' lives. In these settings, in addition to requiring models to be accurate and robust, socially relevant values such as fairness, privacy, accountability, and explainability play an important role for the adoption and impact of said technologies. In this work, we focus on algorithmic recourse, which is concerned with providing explanations and recommendations to individuals who are unfavourably treated by automated decision-making systems. We first perform an extensive literature review, and align the efforts of many authors by presenting unified definitions, formulations, and solutions to recourse. Then, we provide an overview of the prospective research directions towards which the community may engage, challenging existing assumptions and making explicit connections to other ethical challenges such as security, privacy, and fairness.

研究动机与目标

• 在广泛的设置中统一 recourse 的定义、公式化和技术解决方案。
• 在因果框架内区分对比性解释与结果性推荐。
• 总结行动性、可信度、多样性与稀疏性等约束与实际考虑。
• 将 recourse 纳入更广泛的道德机器学习议题，如公平性、隐私和问责制。

提出的方法

• 给出统一定义，以区分对比性解释与结果性推荐（Q1 与 Q2）。
• 将 recourse 表达为带约束的优化问题，方程式（1）和（2）用于反事实与行动。
• 讨论距离与成本度量（例如使用 MAD 的 Manhattan 距离、混合 ||d||p 范数）以及它们如何影响解。
• 对 recourse 中使用的模型类型（基于树的、核方法、可微分的等）和数据类型进行分类。
• 详细说明行动性与可信性约束，以及如何在解中引入多样性与稀疏性。
• 提供对 50+ 篇技术论文的综述（Table 1），并强调未解挑战与未来方向。

实验结果

研究问题

• RQ1 在算法决策中，recourse 的含义是什么，以及如何在解释与推荐之间实现统一？
• RQ2 如何在现实约束下对对比性解释与结果性推荐进行表述与求解？
• RQ3 因果性、行动性与可信性在生成可行的 recourse 中的作用是什么？
• RQ4 将 recourse 融入更广泛的道德 ML 关注点的主要方法学缺口与未来方向是什么？

主要发现

• 大多数 recourse 研究关注生成对比性解释，而非结果性推荐。
• 可微分模型是 Recourse 方法中最广泛支持的类别。
• 解在最优性、覆盖率、运行时间和可访问性等属性之间权衡，尚无统一的基准。
• 结果性推荐依赖因果模型（SCMs），由于 abductive-行动-预测 步骤，计算上可能更昂贵。
• 行动性和可信性约束是不同的，必须共同考虑以产生可行且可信的 recourse。
• 该综述强调了一系列论文（Table 1），并指出将 recourse 与安全、隐私和公平性等联系起来的未来研究方向。