[论文解读] A Characterization of Monotone Influence Measures for Data Classification.

Jakub Śliwiński, Martin Strobel+1 more|arXiv (Cornell University)|Aug 7, 2017

Machine Learning and Data Classification被引用 10

一句话总结

本文提出了一类单调影响度量方法，仅利用数据集即可量化单个数据点的特征重要性，而无需查询底层分类器。该方法基于一组公理推导得出，提供可解释的、仅依赖数据的解释，在真实世界数据集上表现有效，为特征影响分析提供了一种新颖的、无需查询的解决方案。

ABSTRACT

In this work we focus on the following question: how important was the i-th feature in determining the outcome for a given datapoint? We identify a family of influence measures; functions that, given a datapoint x, assign a value phi_i(x) to every feature i, which roughly corresponds to that i's importance in determining the outcome for x. This family is uniquely derived from a set of axioms: desirable properties that any reasonable influence measure should satisfy. Departing from prior work on influence measures, we assume no knowledge of - or access to - the underlying classifier labelling the dataset. In other words, our influence measures are based on the dataset alone, and do not make any queries to the classifier. While this requirement naturally limits the scope of explanations we provide, we show that it is effective on real datasets.

研究动机与目标

• 为分类任务中单个数据点的特征影响建立一个原则化、公理化的度量框架。
• 开发仅依赖数据集的影响力度量方法，无需访问或查询底层分类器。
• 通过形式化公理确保影响力度量满足单调性和一致性等理想属性。
• 提供可解释的、数据驱动的特征重要性解释，适用于现实世界场景。

提出的方法

• 该方法从一组公理中推导出影响力度量家族，这些公理形式化了影响力函数的理想属性。
• 假设无法访问分类器的内部结构或预测函数，仅依赖于观测到的数据点及其标签。
• 特征 i 对数据点 x 的影响力度量记为 phi_i(x)，其计算基于数据集中特征 i 与结果之间的统计关系。
• 该方法确保单调性：若某一特征对结果的贡献更大，则其影响力度量相应增加。
• 该方法设计为计算高效且可扩展至真实世界数据集，无需对分类器进行查询。

实验结果

研究问题

• RQ1 什么样的属性应被特征影响力度量满足，才能被认为是合理且可解释的？
• RQ2 能否仅从数据集中推导出可靠的影响力度量，而无需访问分类器？
• RQ3 所提出的公理化框架如何确保特征重要性的单调与一致性评估？
• RQ4 仅依赖数据的影响力度量在实践中能多大程度上解释分类结果？

主要发现

• 所提出的影响力度量唯一地由一组公理推导得出，确保了其一致性和可解释性。
• 尽管未查询分类器，该方法在真实数据集上仍实现了有效的解释质量。
• 影响力度量表现出单调性，即对预测贡献更高的特征，其影响力得分也更高。
• 该方法为基于查询的影响力方法提供了一种实用的替代方案，尤其适用于黑箱或受限访问的场景。