[논문 리뷰] L-Shapley and C-Shapley: Efficient Model Interpretation for Structured Data

Jianbo Chen, Le Song외 2명|arXiv (Cornell University)|2018. 08. 07.

Bayesian Modeling and Causal Inference인용 수 55

한 줄 요약

이 논문은 그래프 구조 데이터에 대한 인스턴스별 특징 중요도를 효율적으로 계산하기 위해 L-Shapley(로컬)와 C-Shapley(연결) 점수를 제시하며, 선형 시간 복잡도와 Shapley 및 Myerson 값과의 관련성을 달성한다.

ABSTRACT

We study instancewise feature importance scoring as a method for model interpretation. Any such method yields, for each predicted instance, a vector of importance scores associated with the feature vector. Methods based on the Shapley score have been proposed as a fair way of computing feature attributions of this kind, but incur an exponential complexity in the number of features. This combinatorial explosion arises from the definition of the Shapley value and prevents these methods from being scalable to large data sets and complex models. We focus on settings in which the data have a graph structure, and the contribution of features to the target variable is well-approximated by a graph-structured factorization. In such settings, we develop two algorithms with linear complexity for instancewise feature importance scoring. We establish the relationship of our methods to the Shapley value and another closely related concept known as the Myerson value from cooperative game theory. We demonstrate on both language and image data that our algorithms compare favorably with other methods for model interpretation.

연구 동기 및 목표

• 블랙박스 모델 해석을 위한 인스턴스별 특징 중요도 점수의 사용을 동기 부여한다.
• 지역적이고 연결된 이웃을 활용하는 그래프-구조화된 Shapley 값의 확장 가능 근사를 개발한다.
• 그래프 기반의 국소성 가정 하에서 Shapley 및 Myerson 값과의 이론적 연결을 확립한다.
• 언어 및 이미지 데이터에 대해 제안된 방법의 실험적 성능을 보여준다.
• 계산 방법 및 기존 해석 프레임워크와의 관계에 대한 실용적 지침을 제공한다.

제안 방법

• vx(S)를 특징의 부분집합 S로 조건화된 음의 로그 확률의 기대값으로 정의한다.
• L-Shapley를 도입한다: Shapley를 근사하기 위해 k-이웃 Nk(i)로 제한된 평균 한계 기여도를 사용한다.
• C-Shapley를 도입한다: Nk(i) 내의 연결된 부분집합과 Myerson 스타일 계수를 사용해 Shapley를 근사한다.
• 연결 가능성 분해 가능성 v(S)=연결 구성요소의 합으로 그래프 제한된 코얼리션 게임의 Myerson 값에 대해 C-Shapley를 연결한다.
• 복잡도 분석을 제시한다: L-Shapley는 k에 대해 지수적이지만 선형적으로 d에 대해 선형 그래프/ 그리드 그래프에서 작동한다; C-Shapley는 선형 그래프에서 O(k^2 d)의 비용이다.
• 샘플링 기반 또는 회귀 기반 근사(KernelSHAP 등)와의 결합 가능성에 대해 논의한다.

실험 결과

연구 질문

• RQ1 그래프-구조화된 Shapley 값의 수정(L-Shapley 및 C-Shapley)이 계산을 줄이면서도 정확한 인스턴스별 특징 기여를 제공할 수 있는가?
• RQ2 로컬 가법성 하에서 L-Shapley와 C-Shapley가 Myerson 값과 어떤 관계를 가지며, 어떤 조건에서 실제 Shapley 값에 근접하는가?
• RQ3 텍스트 및 이미지 분류 작업에서 L-Shapley와 C-Shapley의 실험적 성능은 기존 해석 방법과 비교하여 어떤가?
• RQ4 실제 모델에 적용하기 위한 실용적 지침 및 복잡도 고려사항은 무엇인가?

주요 결과

• L-Shapley와 C-Shapley는 그래프 구조를 이용해 Shapley 값에 대한 선형 복잡도 근사를 달성한다.
• 주어진 상호 정보 타입 조건하에서 Shapley에 대한 증명 가능한 오차 한계를 산출한다.
• C-Shapley는 분해 가능성과 지역 가법성 하에서 그래프상의 Myerson 값에 대응한다.
• 실험 결과는 텍스트 및 이미지 작업에서 KernelSHAP, SampleShapley, LIME, Saliency에 대해 경쟁력 있거나 우수한 성능을 보인다.
• 이 방법은 언어 및 이미지 데이터에 대해 비교적 작은 계산 예산으로 확장되며 이웃 내에서 상호작용 인식 기여를 가능하게 한다.