[论文解读] GeoShapley: A Game Theory Approach to Measuring Spatial Effects in Machine Learning Models

Ziqi Li|arXiv (Cornell University)|Dec 6, 2023

Spatial and Panel Data Analysis被引用 7

一句话总结

GeoShapley 引入了一种基于博弈论的框架，将空间位置视为基于 Shapley 值的模型解释系统中的参与者，从而实现对机器学习模型中位置重要性及位置-特征协同效应的量化。该方法具有模型无关性，在模拟数据和真实房价数据上得到验证，并以开源 Python 包的形式实现，支持空间感知的模型可解释性。

ABSTRACT

This paper introduces GeoShapley, a game theory approach to measuring spatial effects in machine learning models. GeoShapley extends the Nobel Prize-winning Shapley value framework in game theory by conceptualizing location as a player in a model prediction game, which enables the quantification of the importance of location and the synergies between location and other features in a model. GeoShapley is a model-agnostic approach and can be applied to statistical or black-box machine learning models in various structures. The interpretation of GeoShapley is directly linked with spatially varying coefficient models for explaining spatial effects and additive models for explaining non-spatial effects. Using simulated data, GeoShapley values are validated against known data-generating processes and are used for cross-comparison of seven statistical and machine learning models. An empirical example of house price modeling is used to illustrate GeoShapley's utility and interpretation with real world data. The method is available as an open-source Python package named geoshapley.

研究动机与目标

• 开发一种模型无关的方法，用于量化空间位置对机器学习模型预测的贡献。
• 将 Shapley 值框架扩展以纳入空间效应和位置-特征交互作用。
• 提供一个统一的解释框架，通过博弈论原则将空间变化系数模型与加法模型联系起来。
• 在七种不同模型的模拟环境中，针对已知的数据生成过程验证 GeoShapley 的有效性。
• 通过真实世界房价建模示例，展示其在实际应用中的实用性，实现对空间效应的可解释分析。

提出的方法

• GeoShapley 将每个空间位置视为合作博弈中的参与者，其中 Shapley 值用于度量该位置对模型预测的边际贡献。
• 通过在所有可能的特征与位置联盟中取平均，计算特定位置的 Shapley 值，并将空间结构整合进博弈论框架。
• 将空间变化系数模型和加法模型作为解释锚点，将博弈论值与既有的统计解释相联系。
• 该方法被实现为一种模型无关的技术，适用于各种模型结构中的黑箱与白箱模型。
• 采用计算高效的近似方法，以应对联盟组合的组合爆炸问题，从而实现对真实世界数据集的可扩展性。
• 该方法以名为 geoshapley 的开源 Python 包形式发布，支持方法的可重现性和可访问性实现。

实验结果

研究问题

• RQ1 如何在博弈论模型解释框架中正式将空间位置视为参与者？
• RQ2 在具有已知数据生成过程的模拟数据中，GeoShapley 能在多大程度上准确恢复已知的空间效应？
• RQ3 在捕捉空间与非空间效应方面，GeoShapley 值在多种统计与机器学习模型中的表现如何比较？
• RQ4 GeoShapley 能否有效解释现实世界的空间现象（如房价变化），并提供有意义的空间局部化洞察？
• RQ5 在 GeoShapley 值中，位置与特征的协同效应如何体现，且能否被有意义地解释？

主要发现

• GeoShapley 值在模拟数据中准确恢复了真实的空间效应，与已知的数据生成过程高度一致。
• 该方法在七种不同模型中成功量化了空间与非空间贡献，结果具有一致性且可解释。
• 在真实世界房价建模示例中，GeoShapley 揭示了有意义的空间模式和位置-特征交互效应，与经济直觉相符。
• GeoShapley 的模型无关特性使其能够在多种模型类型（包括复杂的黑箱模型）中实现一致的解释。
• 开源 geoshapley Python 包使得该方法在空间机器学习问题中的可重现与可扩展应用成为可能。
• GeoShapley 值通过与空间变化系数模型和加法模型的关联，展现出强大的可解释性，增强了理论基础。