[논문 리뷰] GeoShapley: A Game Theory Approach to Measuring Spatial Effects in Machine Learning Models

Ziqi Li|arXiv (Cornell University)|2023. 12. 06.

Spatial and Panel Data Analysis인용 수 7

한 줄 요약

GeoShapley는 기계학습 모델에서 공간적 위치의 중요도와 위치-특성 상호작용을 정량화할 수 있도록, 공간적 위치를 Shapley 값 기반 모델 해석 시스템의 플레이어로 간주하는 게임 이론적 프레임워크를 제안한다. 이 방법은 모델에 종속적이지 않으며, 시뮬레이션된 데이터와 실제 주택 가격 데이터를 기반으로 검증되었고, 공간적 인지가 가능한 모델 설명을 위한 오픈소스 파이썬 패키지로 구현되었다.

ABSTRACT

This paper introduces GeoShapley, a game theory approach to measuring spatial effects in machine learning models. GeoShapley extends the Nobel Prize-winning Shapley value framework in game theory by conceptualizing location as a player in a model prediction game, which enables the quantification of the importance of location and the synergies between location and other features in a model. GeoShapley is a model-agnostic approach and can be applied to statistical or black-box machine learning models in various structures. The interpretation of GeoShapley is directly linked with spatially varying coefficient models for explaining spatial effects and additive models for explaining non-spatial effects. Using simulated data, GeoShapley values are validated against known data-generating processes and are used for cross-comparison of seven statistical and machine learning models. An empirical example of house price modeling is used to illustrate GeoShapley's utility and interpretation with real world data. The method is available as an open-source Python package named geoshapley.

연구 동기 및 목표

• 기계학습 모델 예측에 대한 공간적 위치 기여도를 정량화하기 위한 모델에 종속적이지 않은 방법을 개발하는 것.
• Shapley 값 프레임워크를 확장하여 공간적 영향과 위치-특성 상호작용을 통합하는 것.
• 게임 이론적 원리에 기반해 공간적으로 변화하는 계수 모델과 가감 모델을 통합하는 해석 프레임워크를 제공하는 것.
• 다양한 모델 7종에 대해 시뮬레이션된 환경에서 알려진 데이터 생성 과정과의 비교를 통해 GeoShapley를 검증하는 것.
• 실제 주택 가격 모델링을 통해 실용적 유용성을 입증하고, 의미 있는 공간적으로 국한된 통찰을 제공하는 것.

제안 방법

• GeoShapley는 각 공간적 위치를 협력 게임의 플레이어로 간주하며, Shapley 값이 해당 위치가 모델 예측에 기여하는 마진널 기여도를 측정한다.
• 이 방법은 모든 가능한 특성 및 위치 조합의 협력군에 대한 평균을 계산하여 위치 기반 Shapley 값을 산출하며, 공간적 구조를 게임 이론적 프레임워크에 통합한다.
• 공간적으로 변화하는 계수 모델과 가감 모델을 설명적 기준으로 활용하여, 게임 이론적 값과 기존 통계적 해석 간의 연결을 맺는다.
• 이 접근법은 블랙박스 및 화이트박스 모델을 포함한 다양한 모델 구조에 적용 가능한 모델에 종속적이지 않은 기법으로 구현된다.
• 협력군의 조합 폭발 문제를 효율적으로 처리하기 위해 계산적으로 효율적인 근사 기법을 사용하여 실제 데이터 세트에 대한 확장성을 확보한다.
• 이 방법은 재현 가능하고 접근 가능한 구현을 위해 geoshapley라는 오픈소스 파이썬 패키지로 공개된다.

실험 결과

연구 질문

• RQ1 공간적 위치를 게임 이론적 모델 해석 프레임워크 내에서 공식적으로 플레이어로 간주할 수 있는 방법은 무엇인가?
• RQ2 알려진 데이터 생성 과정이 있는 시뮬레이션된 데이터에서 GeoShapley는 얼마나 정확하게 알려진 공간적 영향을 복원할 수 있는가?
• RQ3 다양한 통계 및 기계학습 모델 간에 GeoShapley 값은 공간적 및 비공간적 영향을 얼마나 잘 포괄하는가?
• RQ4 GeoShapley는 주택 가격 변동과 같은 실제 공간 현상을 의미 있는 공간적으로 국한된 통찰을 제공하면서 효과적으로 해석할 수 있는가?
• RQ5 위치와 특성 간의 상호작용은 GeoShapley 값에서 어떻게 나타나며, 이를 의미 있게 해석할 수 있는가?

주요 결과

• GeoShapley 값은 시뮬레이션된 데이터에서 진짜 공간적 영향을 정확하게 복원하여 알려진 데이터 생성 과정과 강한 일치를 보였다.
• 이 방법은 7종의 다양한 모델에서 공간적 및 비공간적 기여도를 모두 성공적으로 정량화하여 일관되고 해석 가능한 결과를 보였다.
• 실제 주택 가격 모델링 사례에서 GeoShapley는 경제적 직관과 일치하는 의미 있는 공간 패턴과 위치-특성 상호작용 효과를 드러냈다.
• GeoShapley의 모델에 종속적이지 않은 성격 덕분에 복잡한 블랙박스 모델을 포함한 다양한 모델 유형 간 일관된 해석이 가능했다.
• 오픈소스 geoshapley 파이썬 패키지는 이론적 기반을 강화하는 공간적으로 변화하는 계수 모델과 가감 모델에 연결되는 강력한 해석 가능성 덕분에 재현 가능하고 확장 가능한 응용을 가능하게 했다.
• GeoShapley 값은 공간적으로 변화하는 계수 모델과 가감 모델과의 연결을 통해 강력한 이론적 기반을 확보하며 해석 가능성이 높았다.