[论文解读] On the Adversarial Robustness of Causal Algorithmic Recourse
本文在因果算法归因中形式化了对抗性鲁棒性，表明最小成本归因对微小特征不确定性极为脆弱。提出了一种在线性与可微分类器中生成鲁棒归因的方法，并引入一种正则化器，以增强局部线性度与可行动性，显著提高鲁棒归因的可行性，同时最小化成本。
Algorithmic recourse seeks to provide actionable recommendations for individuals to overcome unfavorable classification outcomes from automated decision-making systems. Recourse recommendations should ideally be robust to reasonably small uncertainty in the features of the individual seeking recourse. In this work, we formulate the adversarially robust recourse problem and show that recourse methods that offer minimally costly recourse fail to be robust. We then present methods for generating adversarially robust recourse for linear and for differentiable classifiers. Finally, we show that regularizing the decision-making classifier to behave locally linearly and to rely more strongly on actionable features facilitates the existence of adversarially robust recourse.
研究动机与目标
- 解决算法决策中最小成本归因在微小特征不确定性下的脆弱性问题。
- 将对抗性鲁棒归因形式化为可信、类似合同的归因承诺的必要条件。
- 开发生成方法，确保在不确定性集内所有可能的特征扰动下，归因建议均有效。
- 识别并验证能促进鲁棒归因存在的模型正则化器。
提出的方法
- 将归因中的对抗性鲁棒性形式化为围绕个体报告特征的不确定性集 $ B(x) $ 上的鲁棒优化问题。
- 提出一种双层优化方法，用于在线性与可微分类器中生成鲁棒归因，通过特征扰动求解最小-最大问题。
- 引入可行动局部线性正则化（ALLR），通过惩罚非线性行为，鼓励分类器在训练过程中依赖可行动特征。
- 使用基于扰动的内部最大化方法，模拟最坏情况的特征偏移，确保所有此类偏移下归因的有效性。
- 在五个表格数据集上对线性与神经网络分类器应用该方法，以评估鲁棒性与成本。
- 通过消融研究验证 ALLR 的有效性，与 ERM、仅行动训练及先前正则化器进行比较。
实验结果
研究问题
- RQ1最小成本归因对任意小的特征不确定性是否具有鲁棒性？若不然，其失败原因是什么？
- RQ2我们能否生成在有界不确定性集内所有可能特征扰动下均有效的归因建议？
- RQ3决策分类器中哪些结构与归纳偏差能够促成对抗性鲁棒归因的存在？
- RQ4对分类器进行局部线性与可行动性导向的正则化，如何影响鲁棒归因的可行性与成本？
主要发现
- 最小成本归因在任意小的特征不确定性下被证明是脆弱的，严重损害了将归因视为合同承诺的信任。
- 所提出的鲁棒归因生成方法成功为输入周围 $ \epsilon $-球内所有扰动生成了有效建议，即使 $ \epsilon $ 很小亦然。
- 可行动局部线性正则化器（ALLR）使存在鲁棒归因的个体比例相比标准 ERM 最多提高 100%。
- 使用 ALLR 训练的分类器在与 ERM 相似或更低的成本下实现鲁棒归因，同时保持具有竞争力的预测性能。
- ALLR 在促进鲁棒归因方面优于先前正则化器（如 Ross 等人，2021 年提出者），尤其在非线性模型中表现更优。
- 对于神经网络，该方法在 $ \epsilon $ 合理小时仍有效，但因内部最大化问题的非凸性，当 $ \epsilon $ 较大时性能略有下降。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。