[论文解读] Causality Learning: A New Perspective for Interpretable Machine Learning

Guandong Xu, Tri Dung Duong+3 more|arXiv (Cornell University)|Jun 27, 2020

Explainable Artificial Intelligence (XAI)参考文献 64被引用 41

一句话总结

本论文综述因果分析基础与用于可解释机器学习的因果方法，比较因果关系与传统的以关联为重点的方法，并概述评估方法和未解问题。

ABSTRACT

Recent years have witnessed the rapid growth of machine learning in a wide range of fields such as image recognition, text classification, credit scoring prediction, recommendation system, etc. In spite of their great performance in different sectors, researchers still concern about the mechanism under any machine learning (ML) techniques that are inherently black-box and becoming more complex to achieve higher accuracy. Therefore, interpreting machine learning model is currently a mainstream topic in the research community. However, the traditional interpretable machine learning focuses on the association instead of the causality. This paper provides an overview of causal analysis with the fundamental background and key concepts, and then summarizes most recent causal approaches for interpretable machine learning. The evaluation techniques for assessing method quality, and open problems in causal interpretability are also discussed in this paper.

研究动机与目标

• 介绍因果分析的基本背景和关键概念。
• 综述用于可解释机器学习的前沿因果方法。
• 讨论因果可解释性的评估技术并概述该领域的未解问题。

提出的方法

• 以结构化因果模型和潜在结果框架作为因果推断的基础。
• 讨论处理效应度量，包括 ITE、ATE、ATT 和 CATE。
• 回顾深度网络的模型无关与事后因果性方法，包括因果归因和 TCAV 风格的概念。
• 总结具有目标函数和约束的因果特征学习与反事实解释技术。
• 描述用于因果解释的可视化方法（例如 PDP/ICE），并概述评估框架。

实验结果

研究问题

• RQ1 如何将因果推断框架整合到可解释机器学习中，以识别模型决策的真实原因？
• RQ2 基于因果性的有效模型无关和事后可解释性方法有哪些？
• RQ3 在缺乏真实因果基准数据的情况下，我们应如何评估因果可解释性？
• RQ4 在将反事实解释应用于分类、推荐系统与时间序列数据方面，仍存在哪些未解决的问题？

主要发现

• 因果方法能够识别超越简单关联的模型决策的原因与结果。
• 存在多种因果分析框架，包括结构化因果模型和潜在结果，并具备已建立的效应度量（ITE、ATE、ATT、CATE）。
• 讨论了若干基于因果可解释性的方法，包括因果特征学习、反事实解释和基于概念的解释等模型无关与事后方法。
• 提出了多种可视化与评估策略来评估因果可解释性，尽管真实值评估仍具有挑战性。
• 一系列工具箱支持机器学习中的因果分析，如 DoWhy、EconML、CausalNex，以及 TIGRAMITE。