[논문 리뷰] groupShapley: Efficient prediction explanation with Shapley values for feature groups

Martin Jullum, Annabelle Redelmeier외 1명|arXiv (Cornell University)|2021. 06. 23.

Explainable Artificial Intelligence (XAI)인용 수 11

한 줄 요약

이 논문은 기계학습 해석에서 계산 복잡도를 줄이고 해석 가능성과 직관성을 향상시키기 위해 그룹화된 특징을 위한 셰플리 값(Shapley values)을 계산하는 groupShapley를 소개한다. 인구통계학적, 차량, 운전 기록 등의 의미 있는 그룹으로 특징을 통합함으로써, 수백 개의 특징이 있는 상황에서도 효율적이고 정확하며 직관적인 예측 설명을 가능하게 하며, 특정 조건 하에서는 이론적 성질을 유지한다.

ABSTRACT

Shapley values has established itself as one of the most appropriate and theoretically sound frameworks for explaining predictions from complex machine learning models. The popularity of Shapley values in the explanation setting is probably due to its unique theoretical properties. The main drawback with Shapley values, however, is that its computational complexity grows exponentially in the number of input features, making it unfeasible in many real world situations where there could be hundreds or thousands of features. Furthermore, with many (dependent) features, presenting/visualizing and interpreting the computed Shapley values also becomes challenging. The present paper introduces groupShapley: a conceptually simple approach for dealing with the aforementioned bottlenecks. The idea is to group the features, for example by type or dependence, and then compute and present Shapley values for these groups instead of for all individual features. Reducing hundreds or thousands of features to half a dozen or so, makes precise computations practically feasible and the presentation and knowledge extraction greatly simplified. We prove that under certain conditions, groupShapley is equivalent to summing the feature-wise Shapley values within each feature group. Moreover, we provide a simulation study exemplifying the differences when these conditions are not met. We illustrate the usability of the approach in a real world car insurance example, where groupShapley is used to provide simple and intuitive explanations.

연구 동기 및 목표

• 수백 또는 수천 개의 특징을 가진 고차원 기계학습 모델에서 셰플리 값의 지수적 계산 복잡도를 해결한다.
• 특징 간 의존성 또는 수가 많을 경우 개별 셰플리 값의 해석을 어렵게 하는 문제를 해결한다.
• 이론적으로 타당하면서도 계산이 가능하고 개념적으로 단순한 局부 모델 설명 방법을 제공한다.
• 실제 응용에서 시각화와 공유가 더 쉬운 직관적인 그룹 기반 설명을 가능하게 한다.
• 혼합된 특징 유형과 의존성이 있는 복잡한 실제 데이터셋에서의 방법의 유용성을 입증한다.

제안 방법

• 도메인 지식이나 의존성 구조에 기반해 의미 있는 카테고리(예: 개인 정보, 차량 정보, 운전 기록 등)로 특징을 그룹화한다.
• 개별 특징이 아닌 그룹의 셰플리 값을 계산함으로써 계산 횟수를 지수적 수준에서 관리 가능한 수준으로 줄인다.
• 조건부 기대값 기반 기여 함수 $ v(\mathcal{S}) = \mathbb{E}[f(\bm{x}) \mid \bm{x}_{\mathcal{S}} = \bm{x}^*_{\mathcal{S}}] $ 를 사용하여 특징 간 의존성을 적절히 반영한다.
• 특징들이 그룹 내에서 서로 바꾸어도 동일한 영향을 미칠 수 있거나 독립적일 경우, groupShapley가 그룹 내 개별 셰플리 값의 합과 수학적으로 동일하다는 것을 증명한다.
• 혼합된 연속형, 이산형, 범주형 특징이 존재하는 상황에서 조건부 기대값을 추정하기 위해 조건부 추론 트리를 적용한다.
• 실제 응용에서의 사용을 위해 R 패키지 `shapr` (개발 버전)에 이 방법을 구현한다.

실험 결과

연구 질문

• RQ1 특징을 그룹화함으로써 셰플리 값의 이론적 성질을 유지하면서 계산 비용을 크게 줄일 수 있는가?
• RQ2 그룹 내에서 셰플리 값이 그룹 내 개별 셰플리 값의 합과 동일한 조건은 무엇인가?
• RQ3 등가 조건을 위반하는 특징 의존성이 존재할 경우 groupShapley는 실제로 어떻게 작동하는가?
• RQ4 실제 기계학습 응용에서 개별 특징 셰플리 값보다 groupShapley가 더 해석 가능하고 실천 가능성이 높은 설명을 제공할 수 있는가?
• RQ5 결측치와 복잡한 의존성이 있는 고차원 혼합형 데이터를 다룰 때 groupShapley는 얼마나 효과적인가?

주요 결과

• 특징 수가 수십 개를 초과할 경우, groupShapley는 개별 특징 셰플리 값에 대한 계산 가능하고 실용적인 대안을 제공한다.
• 특징들이 그룹 내에서 서로 바꾸어도 동일하거나 독립적일 경우, groupShapley는 그룹 내 개별 셰플리 값의 합과 수학적으로 동일하다.
• 의존성이 있는 특징을 가진 시뮬레이션에서 groupShapley 값은 개별 값의 합과 다름을 보이며, 이는 그룹화 구조가 설명에 중요한 영향을 미친다는 점을 강조한다.
• 23개의 특징을 가진 실제 자동차 보험 데이터셋에서, groupShapley는 도메인 기대와 일치하는 직관적인 그룹 기반 설명을 성공적으로 생성했다(예: 운전 기록 및 개인 정보 그룹이 강한 영향을 미침).
• 혼합된 특징 유형, 결측치 처리(예측 평균 매칭을 통한), 복잡한 의존성까지 효과적으로 처리했으며, AUC가 0.815인 랜덤 포레스트 모델을 통해 이를 입증했다.
• 그림 4에서 보듯이, groupShapley 방법은 모델 예측의 명확한 시각화와 해석을 가능하게 했으며, 네 명의 개인에 대한 그룹 기여도가 모두 실제 세계 기대와 일치했다.