[论文解读] Towards User Empowerment.

Martin Pawelczyk, Johannes Haug+2 more|arXiv (Cornell University)|Oct 21, 2019

Explainable Artificial Intelligence (XAI)被引用 7

一句话总结

本文提出了反事实条件异质变分自编码器（C-CHVAE），一种生成不仅稀疏且可解释，而且忠实于数据分布（位于高密度区域）的反事实解释的框架。该框架引入了一种难度感知准则，并利用流形学习，为现实世界的决策支持生成可实现且现实的反事实。

ABSTRACT

Counterfactual explanations can be obtained by identifying the smallest change made to a feature vector to qualitatively influence a prediction; for example, from 'loan rejected' to 'awarded' or from 'high risk of cardiovascular disease' to 'low risk'. Previous approaches often emphasized that counterfactuals should be easily interpretable to humans, motivating sparse solutions with few changes to the feature vectors. However, these approaches would not ensure that the produced counterfactuals be proximate (i.e., not local outliers) and connected to regions with substantial data density (i.e., close to correctly classified observations), two requirements known as counterfactual faithfulness. These requirements are fundamental when making suggestions to individuals that are indeed attainable. Our contribution is twofold. On one hand, we suggest to complement the catalogue of counterfactual quality measures [1] using a criterion to quantify the degree of difficulty for a certain counterfactual suggestion. On the other hand, drawing ideas from the manifold learning literature, we develop a framework that generates attainable counterfactuals. We suggest the counterfactual conditional heterogeneous variational autoencoder (C-CHVAE) to identify attainable counterfactuals that lie within regions of high data density.

研究动机与目标

• 为解决现有反事实解释缺乏忠实性的问题，这些解释常产生稀疏但不现实或类似异常值的建议。
• 通过确保反事实位于高密度数据区域，提升其可实现性，从而增强实用性。
• 提出一种新的质量度量方法，用于量化实现反事实建议的难度，以增强以用户为中心的可解释性。
• 开发一种深度生成框架，联合建模反事实与数据流形结构，以提升忠实性。

提出的方法

• 提出反事实条件异质变分自编码器（C-CHVAE），一种基于输入特征条件化的变分自编码器，用于建模反事实。
• 使用编码原始数据与反事实扰动的潜在空间，实现对现实且可实现变化的解耦学习。
• 结合流形学习方法，确保生成的反事实位于高密度数据区域，从而提升忠实性。
• 引入难度评分度量，用于量化实现反事实所需的努力，支持用户赋能。
• 采用异质架构以处理现实数据中常见的混合类型特征（如分类特征与连续特征）。
• 使用变分推理目标端到端训练模型，平衡重建、正则化与反事实忠实性。

实验结果

研究问题

• RQ1 如何通过确保反事实位于高密度数据区域，使其更具可实现性？
• RQ2 哪些度量能有效量化用户实现反事实建议的难度？
• RQ3 像C-CHVAE这样的深度生成模型能否生成既稀疏又忠实于数据分布的反事实？
• RQ4 所提出的C-CHVAE框架在生成现实且可操作的反事实方面，相较于现有方法表现如何？
• RQ5 整合流形结构在多大程度上提升了反事实解释的忠实性与现实感？

主要发现

• C-CHVAE框架成功生成了既稀疏又位于高密度数据区域的反事实，显著提升了忠实性。
• 所提出的难度评分度量为实现反事实建议的挑战程度提供了有意义且可解释的量化指标。
• 通过利用流形结构，模型避免生成局部异常值或在现实情境中不切实际的反事实。
• 该方法在生成既可解释又基于现实数据分布的反事实方面，优于基线方法。
• 异质特征处理的整合使该框架能够应用于包含混合特征类型的多样化现实世界数据集。
• 实证结果表明，C-CHVAE生成的反事实更可能具有可操作性，并与用户能力相一致。