[논문 리뷰] A $k$-additive Choquet integral-based approach to approximate the SHAP values for local interpretability in machine learning

Guilherme Dean Pelegrina, Leonardo Tomazeli Duarte외 1명|arXiv (Cornell University)|2022. 11. 03.

Multi-Criteria Decision Making인용 수 4

한 줄 요약

이 논문은 기계학습에서 국소 모델 해석 가능성에 대한 SHAP 값의 근사치를 계산하기 위해 k-additive Choquet 적분 기반 방법을 제안한다. 이는 k-additive 게임을 활용하여 계산 비용을 감소시키며, 정확한 SHAP 값과 높은 일치도를 유지하면서도 모델 평가 횟수를 줄인다. 특히 3-additive 근사(3_ADD-SHAP)는 정확도 손실가장 작게 효율성이 뛰어나며, 기존 Kernel SHAP보다 뛰어난 성능을 보인다.

ABSTRACT

Besides accuracy, recent studies on machine learning models have been addressing the question on how the obtained results can be interpreted. Indeed, while complex machine learning models are able to provide very good results in terms of accuracy even in challenging applications, it is difficult to interpret them. Aiming at providing some interpretability for such models, one of the most famous methods, called SHAP, borrows the Shapley value concept from game theory in order to locally explain the predicted outcome of an instance of interest. As the SHAP values calculation needs previous computations on all possible coalitions of attributes, its computational cost can be very high. Therefore, a SHAP-based method called Kernel SHAP adopts an efficient strategy that approximate such values with less computational effort. In this paper, we also address local interpretability in machine learning based on Shapley values. Firstly, we provide a straightforward formulation of a SHAP-based method for local interpretability by using the Choquet integral, which leads to both Shapley values and Shapley interaction indices. Moreover, we also adopt the concept of $k$-additive games from game theory, which contributes to reduce the computational effort when estimating the SHAP values. The obtained results attest that our proposal needs less computations on coalitions of attributes to approximate the SHAP values.

연구 동기 및 목표

• 복잡한 기계학습 모델에서 정확한 SHAP 값 계산의 높은 계산 비용을 해결한다.
• 해석 가능성 품질을 훼손하지 않으면서 국소 해석 가능성 방법의 효율성을 향상시킨다.
• 모델에 종속되지 않는 접근 방식을 제공하여 개별 특성 기여도와 특성 간 상호작용 효과를 모두 지원한다.
• Choquet 적분 프레임워크 내에서 k-additive 게임을 사용하여 과도한 파rameter화와 계산 부담을 줄인다.
• 제한된 계산 자원을 가진 실세계 응용 프로그램에서 SHAP 유사 설명의 실용적 구현을 가능하게 한다.

제안 방법

• Shapley 값과 직접 연결된 매개변수를 갖는 Choquet 적분을 사용하여 국소 해석 가능성 문제를 수립함으로써 개별 효과와 상호작용 효과를 모두 처리한다.
• 고려할 수 있는 협력군의 수를 제한하기 위해 k-additive 게임을 도입하여 필요한 모델 평가 횟수를 감소시킨다.
• 탄력성과 계산 효율성의 균형을 고려해 3-additive 변형(3_ADD-SHAP)을 핵심 근사 전략으로 사용한다.
• Choquet 적분을 통해 SHAP 프레임워크를 변형하여 국소 정확도, 누락성, 일致성과 같은 바람직한 성질을 유지한다.
• k-additive 제약 조건 하에서 샘플링을 통해 SHAP 값을 근사함으로써 필요한 예측 횟수를 최소화한다.
• 게임 이론적 성질을 유지하면서도 복잡성을 줄여 해석 가능성의 정확도를 확보한다.

실험 결과

연구 질문

• RQ1 Choquet 적분은 SHAP 값을 계산하는 데 직접적이고 해석 가능한 프레임워크로 사용될 수 있는가?
• RQ2 k-additive 게임의 사용이 SHAP 근사에서 필요한 모델 평가 횟수를 어떻게 줄이는가?
• RQ3 k-additive 모델을 사용할 경우 계산 효율성과 근사 정확도 사이의 상호 상충 관계는 어떠한가?
• RQ4 3_ADD-SHAP 변형은 효율성과 정확한 SHAP 값에 대한 일치도 측면에서 Kernel SHAP보다 어떻게 비교되는가?
• RQ5 제안된 방법은 근사 상태에서도 핵심 해석 가능성 성질(국소 정확도, 일치성, 누락성)을 유지할 수 있는가?

주요 결과

• k-additive Choquet 적분 기반 접근 방식은 특히 3_ADD-SHAP 변형을 통해 SHAP 값을 근사하기 위해 필요한 모델 평가 횟수를 크게 감소시킨다.
• 3_ADD-SHAP 방법은 가능한 모든 협력군을 사용하지 않더라도 정확한 SHAP 값에 거의 근접한 근사 정확도를 달성한다.
• 제안된 방법은 게임 이론적 원리에 기반하여 SHAP의 바람직한 성질(국소 정확도, 누락성, 일치성)을 유지한다.
• Kernel SHAP와 비교해 본 실험에서 제안된 방법은 유사하거나 더 뛰어난 해석 가능성 성능을 달성하기 위해 더 적은 예측 횟수를 요구한다.
• k-additive 공식화는 낮은 평가 횟수 환경에서 과도한 파rameter화를 방지하여 설명의 안정성과 일반화 능력을 향상시킨다.
• 수치 실험 결과, k-additivity에 의해 유도되는 근사 오차는 특히 3_ADD-SHAP의 경우 미미하여 신뢰할 수 있는 국소 해석 가능성을 보장한다.