[논문 리뷰] A Polynomial-Time Axiomatic Alternative to SHAP for Feature Attribution

Kazuhiro Hiraki, Shinichi Ishihara외 2명|arXiv (Cornell University)|2026. 02. 28.

Explainable Artificial Intelligence (XAI)인용 수 0

한 줄 요약

본 논문은 ESENSC_rev2를 SHAP의 공리적 대안으로 제시하는 다항시간(additive) 특징 기여도 방법으로 소개하며, 강한 무효-플레이어(null-player) 특성과 경쟁력 있는 정확성을 갖추고, PA형 해법에 대한 분석과 공리적 기초를 제시합니다.

ABSTRACT

In this paper, we provide a theoretically grounded and computationally efficient alternative to SHAP. To this end, we study feature attribution through the lens of cooperative game theory by formulating a class of XAI--TU games. Building on this formulation, we investigate equal-surplus-type and proportional-allocation-type attribution rules and propose a low-cost attribution rule, ESENSC_rev2, constructed by combining two polynomial-time closed-form rules while ensuring the null-player property in the XAI--TU domain. Extensive experiments on tabular prediction tasks demonstrate that ESENSC_rev2 closely approximates exact SHAP while substantially improving scalability as the number of features increases. These empirical results indicate that equal-surplus-type attribution rules can achieve favorable trade-offs between computational cost and approximation accuracy in high-dimensional explainability settings. To provide theoretical foundations for these findings, we establish an axiomatic characterization showing that ESENSC_rev2 is uniquely determined by efficiency, the null-player axiom, a restricted differential marginality principle, an intermediate inessential-game property, and axioms that reduce computational requirements. Our results suggest that axiomatically justified and computationally efficient attribution rules can serve as practical and theoretically principled substitutes for SHAP-based approximations in modern explainability pipelines.

연구 동기 및 목표

• 설명 가능한 AI 시나리오의 고유한 구조를 포착하기 위해 XAI–TU 게임으로서 additive feature attribution을 형식화한다.
• Equal-surplus와 proportional-type 솔루션 개념에 기초한 계산적으로 효율적인 AFAs를 개발한다.
• ES-type AFA가 의미 있는 공칙 집합을 독특하게 만족함을 보이는 공리적 특성화를 제공한다.
• 실제 데이터에서 ES-type과 PA-type의 AFAs를 SHAP 및 SHAP 근사치와 대조한다.
• 고차원 설정에서 ES-type AFAs의 확장성 이점과 실용적 타당성을 입증한다.

제안 방법

• vτ(S)=E[f(xτ,S,XN\S)]로 XAI–TU 게임을 형식화한다.
• 특징들 간의 vτ(N)−vτ(∅)를 특징들 간에 할당의 형태로 additive feature attributions(AFA)로 정의한다.
• null-player 특성을 보장하는 ES, ENSC, ESENSC 및 두 가지 수정된 ES–ENSC 규칙을 개발한다.
• PA-type AFA를 도입하고 PARPA 규칙으로 차수 반전(order-reversal) 문제를 다룬다.
• 대체적인 proportional-type AFA로 Gately-adj 및 조정된 규칙을 제시한다.
• 효율성, null-player, 약화된 차등 한계성, 중간 불필요-게임 특성, 계산 축소 공리로 ES-type AFA를 공리적으로 특성화한다.

Figure 1: Deviation from SHAP (1) neural net model

실험 결과

연구 질문

• RQ1 ES-type AFA가 다항식 시간 계산을 제공하면서 SHAP에 근접하게 근사할 수 있는가?
• RQ2 정확도와 확장성 측면에서 ES-type과 PA-type 기여 규칙의 trade-off는 무엇인가?
• RQ3 제시된 공리들이 XAI–TU 게임 설정에서 ES-type AFA를 독특하게 결정하는가?
• RQ4 수정된 ESENSC 및 PARPA 규칙이 null-player 및 순서 보존 속성에서 어떻게 작동하는가?

주요 결과

• ESENSC_rev2는 정확한 SHAP를 근접하게 근사하면서 특징 수가 늘어날수록 확장성을 크게 향상시킨다.
• ES-type AFA는 정확한 SHAP에 비해 평가가 훨씬 적게 필요하고(다항식) SHAP(특성의 수 n에서 지수)보다 효율적이다.
• PA-type AFA는 계산적으로 효율적이지만 모델 및 특징 수에 따라 SHAP와의 차이가 더 커지는 경향이 있으며 차수 반전 문제가 발생한다.
• 공리적 분석에 따르면 ES-type AFA는 효율성, null-player, 제한된 차등 한계성, 중간 불필요-게임 특성, 계산 축소 공리에 의해 독특하게 결정된다.
• 수정된 ESENSC_rev2 규칙은 null-player 특성을 충족하고 더 넓은 게임 인스턴스로의 적용성을 확장한다.

Figure 2: Deviation from SHAP (2) XGBoost model