[论文解读] Influence in Classification via Cooperative Game Theory
本文提出了一种基于合作博弈论的新型、公理化的特征影响度量方法，用于分类任务中，独特地基于特征变化对分类结果的影响来刻画特征重要性。该方法证明了在线性分类器中，该度量具有几何解释，并在真实广告投放数据上验证了其有效性，表明语言特征（如西班牙语）显著影响广告投放决策。
A dataset has been classified by some unknown classifier into two types of points. What were the most important factors in determining the classification outcome? In this work, we employ an axiomatic approach in order to uniquely characterize an influence measure: a function that, given a set of classified points, outputs a value for each feature corresponding to its influence in determining the classification outcome. We show that our influence measure takes on an intuitive form when the unknown classifier is linear. Finally, we employ our influence measure in order to analyze the effects of user profiling on Google's online display advertising.
研究动机与目标
- 开发一种无需访问内部分类器即可透明、公理化地测量黑箱分类系统中特征影响的方法。
- 解决大规模数据分类中的透明度不足问题，特别是因隐藏的特征依赖关系可能导致的非预期歧视。
- 提供一个通用框架，可扩展至线性模型之外的场景，包括使用伪距离度量和数据先验分布的设置。
- 在谷歌在线广告系统的真实用户画像数据上对影响度量进行实证验证。
- 证明该度量能够检测并量化偏差或高度影响的特征，例如广告投放中的语言偏好。
提出的方法
- 将特征影响形式化为合作博弈论中的函数，其中特征作为参与者，值函数反映分类结果。
- 定义四个核心公理——对称性、虚设特征、不相交并集以及与距离的一致性，唯一刻画影响度量。
- 将影响度量推导为当某一特征被扰动时，分类输出基于距离变化的加权和：$\phi_i(B) = \alpha \sum_{\mathbf{a} \in B} \sum_{b \in A_i: (\mathbf{a}_{-i},b) \in B} d((\mathbf{a}_{-i},b), \mathbf{a})$。
- 通过使用伪距离度量，将框架推广至广义设置，支持基于聚类的影响分解。
- 应用特征独立性（FI）和不相交并集性质，实现对特征配置和等价类的影响分解。
- 采用基于矩阵表示和对称性的证明技术，证明在公理下影响度量的唯一性。
实验结果
研究问题
- RQ1哪些公理性质能唯一刻画黑箱分类器中特征影响度量的公平性与可解释性？
- RQ2当底层分类器为线性时，影响度量的行为如何？能否赋予其几何解释？
- RQ3该影响度量能否在真实世界用户画像系统（如在线广告投放）中检测并量化偏差？
- RQ4该框架如何扩展以处理非二值特征、伪距离或数据上的先验分布？
- RQ5在实证评估中，该影响度量是否表现出直观行为，例如正确识别语言作为广告投放中的主导因素？
主要发现
- 该影响度量被四个公理唯一刻画：对称性、d-虚设特征、d-不相交并集以及与距离的一致性。
- 在线性分类器中，该影响度量对应于分类器权重向量的几何范数，提供了直观的解释。
- 在真实广告投放数据中，西班牙语语言特征表现出所有特征中最高的影响，表明对西班牙语使用者存在强烈偏向。
- 该框架可推广至非二值特征，并支持伪距离度量，从而实现基于聚类的影响分解。
- 该影响度量满足特征独立性，支持在不同特征配置上对影响进行分解。
- 该度量在实验中表现出稳健性，且行为理想，影响值随特征扰动影响的大小成比例变化。
更好的研究，从现在开始
从阅读论文到最终审阅，大幅缩短您的研究时间。
无需绑定信用卡
本解读由 AI 生成，并经人工编辑审核。