[论文解读] Decisions, Counterfactual Explanations and Strategic Behavior

Stratis Tsirtsis, Manuel Gomez-Rodriguez|arXiv (Cornell University)|Feb 11, 2020

Explainable Artificial Intelligence (XAI)参考文献 39被引用 14

一句话总结

本文提出了一套框架，用于在个体利用解释进行自我改进的战略性情境中，设计最优决策策略与反事实解释。该问题被建模为一个斯塔克尔伯格博弈，证明了其 NP-难性与子模性，并采用贪心和随机化算法实现近似保证。在合成数据与真实贷款数据上的实验表明，该方法在提升公平性（通过拟阵约束实现）的同时，实现了比基线方法更高的效用。

ABSTRACT

As data-driven predictive models are increasingly used to inform decisions, it has been argued that decision makers should provide explanations that help individuals understand what would have to change for these decisions to be beneficial ones. However, there has been little discussion on the possibility that individuals may use the above counterfactual explanations to invest effort strategically and maximize their chances of receiving a beneficial decision. In this paper, our goal is to find policies and counterfactual explanations that are optimal in terms of utility in such a strategic setting. We first show that, given a pre-defined policy, the problem of finding the optimal set of counterfactual explanations is NP-hard. Then, we show that the corresponding objective is nondecreasing and satisfies submodularity and this allows a standard greedy algorithm to enjoy approximation guarantees. In addition, we further show that the problem of jointly finding both the optimal policy and set of counterfactual explanations reduces to maximizing a non-monotone submodular function. As a result, we can use a recent randomized algorithm to solve the problem, which also offers approximation guarantees. Finally, we demonstrate that, by incorporating a matroid constraint into the problem formulation, we can increase the diversity of the optimal set of counterfactual explanations and incentivize individuals across the whole spectrum of the population to self improve. Experiments on synthetic and real lending and credit card data illustrate our theoretical findings and show that the counterfactual explanations and decision policies found by our algorithms achieve higher utility than several competitive baselines.

研究动机与目标

• 设计决策策略与反事实解释，以在个体对解释作出战略响应的场景中最大化效用。
• 弥补现有可解释机器学习中的空白，聚焦于决策的解释而非预测的解释。
• 对使用反事实解释来提升获得有利决策机会的个体的战略行为进行建模。
• 通过拟阵约束在解释中引入公平性与多样性，确保各人口子群体的代表性。
• 开发具有理论近似保证的可扩展算法，以联合优化策略与解释。

提出的方法

• 将问题建模为斯塔克尔伯格博弈，其中决策者先承诺策略与反事实解释，随后个体通过投入努力进行最优响应。
• 证明在固定策略下寻找最优反事实解释是 NP-难的，但目标函数是非递减且子模的，从而可使用贪心算法实现 (1-1/e) 的近似保证。
• 将策略与解释的联合优化问题简化为最大化一个非单调子模函数，可通过近期提出的随机化算法实现 1/2 的近似保证。
• 引入拟阵约束以促进反事实解释在人口群体（如年龄或人口统计类别）中的多样性。
• 采用改进的贪心算法（Nemhauser et al., 1978）进行约束优化，在拟阵约束下实现 1/2 的近似保证。
• 使用真实世界中的贷款与信用卡数据集，评估在不同泄露与约束条件下，效用、公平性及战略响应效应的表现。

实验结果

研究问题

• RQ1 如何联合优化决策策略与反事实解释，以在个体具有战略行为的情境下最大化效用？
• RQ2 在固定策略下寻找最优反事实解释的计算复杂度与近似保证为何？
• RQ3 能否使用拟阵约束生成多样化、公平的反事实解释，以惠及代表性不足的人口群体？
• RQ4 所提出的算法在真实世界数据集上的效用与公平性表现，相较于竞争基线方法有何差异？
• RQ5 信息泄露（如个体过早获知解释）对决策策略与解释集效用的影响如何？

主要发现

• 在固定策略下寻找最优反事实解释的问题是 NP-难的，但目标函数是非递减且子模的，因此可使用贪心算法实现 (1-1/e) 的近似保证。
• 联合优化策略与解释的问题可简化为最大化一个非单调子模函数，可通过随机化算法实现 1/2 的近似保证。
• 引入拟阵约束显著提升了反事实解释的多样性，确保所有年龄组（尤其是年长者）都能获得具有行动导向的自我改进反馈。
• 在合成数据与真实信贷数据上的实验表明，所提算法即使在高泄露概率（如 $p_l = 0.5$）下，也实现了比竞争基线更高的效用。
• 在拟阵约束下，各年龄组结果概率的相对提升更加均衡，表明多样性约束可防止代表性不足子群体被边缘化。
• 该框架成功激励了自我改进：个体根据解释战略性地调整特征，从而获得更好结果并提升策略效用。