[论文解读] XInsight: eXplainable Data Analysis Through The Lens of Causality

Pingchuan Ma, Rui Ding+3 more|arXiv (Cornell University)|Jul 26, 2022

Explainable Artificial Intelligence (XAI)被引用 5

一句话总结

XInsight 是一种基于因果关系的可解释数据分析（XDA）框架，利用因果图、因果原语和责任量化，为数据事实提供定性和定量解释。实验和用户研究验证了其在用户信任度和准确性方面优于非因果工具。

ABSTRACT

In light of the growing popularity of Exploratory Data Analysis (EDA), understanding the underlying causes of the knowledge acquired by EDA is crucial. However, it remains under-researched. This study promotes a transparent and explicable perspective on data analysis, called eXplainable Data Analysis (XDA). For this reason, we present XInsight, a general framework for XDA. XInsight provides data analysis with qualitative and quantitative explanations of causal and non-causal semantics. This way, it will significantly improve human understanding and confidence in the outcomes of data analysis, facilitating accurate data interpretation and decision making in the real world. XInsight is a three-module, end-to-end pipeline designed to extract causal graphs, translate causal primitives into XDA semantics, and quantify the quantitative contribution of each explanation to a data fact. XInsight uses a set of design concepts and optimizations to address the inherent difficulties associated with integrating causality into XDA. Experiments on synthetic and real-world datasets as well as a user study demonstrate the highly promising capabilities of XInsight.

研究动机与目标

• 为了解决探索性数据分析（EDA）中缺乏因果解释的问题，该问题常导致误解。
• 开发一个统一框架，同时提供因果和非因果解释，并包含定性和定量成分。
• 通过将因果关系整合到 EDA 中，提升人类对数据分析结果的理解与信心。
• 克服现有工具依赖统计相关性而非真实因果关系的局限性。
• 设计一个可扩展的端到端流程，支持在数据分析中进行可操作的反事实推理。

提出的方法

• XInsight 采用三模块流程：XLearner 负责从数据中发现因果图，XTranslator 负责在给定上下文中将变量分类为因果或非因果，XPlainer 负责使用实际因果理论量化因果责任。
• XLearner 解决了因果发现中的关键挑战，包括因功能依赖（FDs）导致的因果不充分性和忠实性违反问题。
• XTranslator 利用因果图结构判断某一变量是否可作为给定 Why 查询的因果解释，标记因果候选（绿色）和非因果候选（紫色）。
• XPlainer 应用 Halpern 的实际因果理论和 DB 因果理论计算责任得分，识别出对解释数据事实最具责任的谓词。
• 该框架集成了优化技术，以降低计算成本并提升在真实世界数据场景中的可扩展性。
• XInsight 设计为可扩展，并已集成至 Microsoft Power BI，实现实时数据变化解释。

实验结果

研究问题

• RQ1 如何系统性地将因果关系整合到探索性数据分析中，以提升解释质量？
• RQ2 在数据分析背景下，因果解释与非因果解释有何区别，如何对其进行形式化建模？
• RQ3 统一框架能否以可扩展且可信的方式，为数据事实提供定性和定量的因果解释？
• RQ4 与非因果解释相比，因果推理的引入如何提升用户理解与决策能力？
• RQ5 在真实世界数据分析中应用因果关系的关键技术挑战是什么，以及如何解决？

主要发现

• XInsight 成功从合成数据集和真实世界数据集中发现因果图，即使在因果不充分性和 FD 导致的忠实性违反等挑战性条件下亦然。
• 用户研究证实，与非因果解释相比，用户对 XInsight 提供的解释信任度显著更高。
• XPlainer 准确量化了各因素在解释数据事实中的责任，其结果与人类直觉和反事实推理一致。
• 将 XInsight 集成至 Microsoft Power BI 实现了对数据变化的实时解释，证明了其实际可部署性。
• 实验表明，XInsight 在识别有意义且因果有效的解释方面优于现有工具（如 Tableau 的 Explain Data 和 Scorpion）。
• 该框架能有效区分因果与非因果因素，避免了诸如低青少年怀孕率与高 ACT 成绩之间虚假相关性等误导性解释。