[논문 리뷰] X-SHAP: towards multiplicative explainability of Machine Learning

Luisa Bouneder, Yannick Léo외 1명|arXiv (Cornell University)|2020. 06. 08.

Explainable Artificial Intelligence (XAI)참고 문헌 21인용 수 5

한 줄 요약

X-SHAP는 다중 기여도를 통해 기계학습 예측을 설명하는 모델에 종속되지 않는 방법을 도입하며, SHAP의 덧셈 프레임워크를 다중 상호작용을 포괄하도록 확장한다. 실세계 데이터셋에서 이론적이고 실증적인 검증을 통해 도메인 내 직관과 일치하는 일관된 결과를 보이며, 보험 및 생물의학 분야에서 다중 관계가 본질적인 분야에서 뛰어난 해석 가능성과 함께 제공된다.

ABSTRACT

This paper introduces X-SHAP, a model-agnostic method that assesses multiplicative contributions of variables for both local and global predictions. This method theoretically and operationally extends the so-called additive SHAP approach. It proves useful underlying multiplicative interactions of factors, typically arising in sectors where Generalized Linear Models are traditionally used, such as in insurance or biology. We test the method on various datasets and propose a set of techniques based on individual X-SHAP contributions to build aggregated multiplicative contributions and to capture multiplicative feature importance, that we compare to traditional techniques.

연구 동기 및 목표

• 기계학습에서 다중 해석 가능성 방법의 부족, 특히 보험 및 역학 분야에서 표준인 다중 관계가 존재하는 분야에서 이를 해결하기 위해.
• 협력 게임 이론 원리를 활용하여 덧셈 SHAP 프레임워크를 모델에 종속되지 않는 다중 기여도로 확장하기 위해.
• 국소적 다중 기여도를 종합하여 글로벌 및 세그먼티드 해석(예: 기능 중요도, 부분 의존성)을 제공하는 도구상자를 개발하기 위해.
• X-SHAP의 도메인 지식과의 일관성 및 진정한 기반이 되는 다중 관계를 포착하는 데서 덧셈 방법보다 뛰어난 성능을 실증적으로 검증하기 위해.

제안 방법

• X-SHAP는 협력 게임 이론에서 유도된 다중 Shapley 값 확장을 사용하여 각 기능이 예측에 기여하는 다중 기여도를 정의한다.
• 지속 가능한 확장성과 모델에 종속되지 않는 성질을 확보하기 위해 국소적 다중 기여도를 계산하기 위한 다항식 시간 근사 알고리즘을 도입한다.
• 부분 의존성 플롯에서 산술 평균 대비 외곽치에 민감도가 낮은 기하 평균 기반 평균화를 사용한다.
• 관측치 전반에 걸친 개별 다중 기여도를 종합하여 글로벌 기능 중요도 및 세그먼트 해석(예: 연령대 또는 기능 값 구간 기반)을 계산한다.
• 측정 기준으로 평균 절대 기여도 및 부분 의존성 등을 사용하여 Kernel SHAP(덧셈) 및 내재된 모델 기반 기능 중요도(예: 랜덤 포레스트)와의 비교를 통해 검증한다.
• 기준값 $\phi^0$ 을 사용하고 다중 분해를 정의한다: $\phi^0 \cdot \prod_{j=1}^{m} \phi_j^j = f(x)$, 여기서 $\phi_j^j$ 는 기능 $j$ 의 다중 기여도를 나타낸다.

실험 결과

연구 질문

• RQ1 모델에 종속되지 않는 방법이 기계학습 예측에서 기능의 다중 기여도를 정확하게 추정할 수 있는가, 특히 본질적으로 다중 관계가 존재하는 분야에서?
• RQ2 X-SHAP의 다중 분해 방식은 실세계 데이터셋에서 기능 중요도 및 예측 행동을 포착하는 데 덧셈 SHAP보다 어떻게 다를까?
• RQ3 X-SHAP의 종합된 글로벌 및 세그먼트 해석이 도메인 특화 기대와 전문 지식과 얼마나 일치하는가?
• RQ4 기하 평균을 부분 의존성 플롯에 사용할 경우, 전통적인 산술 평균 기반 방법 대비 외곽치에 대한 강건성이 향상되는가?
• RQ5 X-SHAP의 기능 중요도 메트릭스는 청소년 대비 노년 환자와 같은 하위군에서 기능 영향의 의미 있는 차이를 감지할 수 있는가, 덧셈 방법이 이를 가리킬 수 있는가?

주요 결과

• X-SHAP의 다중 기여도는 전문가 직관과 강하게 일치하며, 특히 당뇨병 데이터셋에서 체질량지수와 S5 기능 중요도가 정확히 우선순위가 매겨진 것으로 확인되었다.
• X-SHAP의 기능 중요도 순위는 Kernel SHAP와 매우 유사했으며, 오직 두 개의 기능 순서 뒤집힘만 존재하여 덧셈과 다중 해석 간 높은 일관성을 보였다.
• 청소년 환자 하위군에서는 X-SHAP가 기능 중요도의 상당한 변화를 드러내었으며, S5가 체질량지수를 초월해 더 영향력 있는 요소로 나타났다 — 이는 글로벌 종합에서 놓칠 수 있는 미묘한 차이였다.
• X-SHAP의 기하 평균 기반 방법을 사용한 부분 의존성 플롯은 전통적인 산술 평균 기반 플롯 대비 더 매끄럽고 외곽치에 민감도가 낮은 경향을 보였다.
• 자동차 보험 데이터셋에서 X-SHAP는 도시 거주자 및 이전 청구 기록이 있는 이들이 더 높은 청구 비용을 유발한다는 점을 정확히 식별했으며, 이는 실제 보험 계산 기대와 일치했다.
• X-SHAP 도구상자는 국소, 글로벌, 세그먼트 수준에서의 해석을 성공적으로 가능하게 하여, 모델 감사 및 의사결정 지원 분야에서의 유연성을 입증했다.