[논문 리뷰] Locally Interpretable Models and Effects based on Supervised Partitioning (LIME-SUP)

Linwei Hu, Jie Chen외 2명|arXiv (Cornell University)|2018. 06. 02.

Explainable Artificial Intelligence (XAI)참고 문헌 16인용 수 41

한 줄 요약

이 논문은 LIME-SUP을 소개합니다. 이는 감독 분할(트리)을 사용하여 적합된 응답 또는 그 도함수로 모델링함으로써 적합된 머신 러닝 모델을 설명하고, 시뮬레이션 및 실제 데이터와 KLIME과의 비교를 수행하는 지역적으로 해석 가능한 모델링 프레임워크입니다.

ABSTRACT

Supervised Machine Learning (SML) algorithms such as Gradient Boosting, Random Forest, and Neural Networks have become popular in recent years due to their increased predictive performance over traditional statistical methods. This is especially true with large data sets (millions or more observations and hundreds to thousands of predictors). However, the complexity of the SML models makes them opaque and hard to interpret without additional tools. There has been a lot of interest recently in developing global and local diagnostics for interpreting and explaining SML models. In this paper, we propose locally interpretable models and effects based on supervised partitioning (trees) referred to as LIME-SUP. This is in contrast with the KLIME approach that is based on clustering the predictor space. We describe LIME-SUP based on fitting trees to the fitted response (LIM-SUP-R) as well as the derivatives of the fitted response (LIME-SUP-D). We compare the results with KLIME and describe its advantages using simulation and real data.

연구 동기 및 목표

• 대규모 데이터셋에서 성능이 높은 지도 학습 모델(GBMs, Random Forest, Neural Networks)의 불투명성 해결.
• 감독 분할(트리)을 통해 지역적으로 해석 가능한 모델과 효과를 개발.
• 두 가지 변형 제공: LIM-SUP-R(적합된 응답) 및 LIME-SUP-D(적합된 응답의 도함수).
• LIME-SUP을 KLIME과 비교하고 시뮬레이션 및 실제 데이터로 이점을 평가.

제안 방법

• 적합된 응답에 트리를 적합시켜 지역적으로 해석 가능한 설명을 얻는다(LIM-SUP-R).
• 적합된 응답의 도함수에 트리를 적합시켜 지역 효과를 포착한다(LIME-SUP-D).
• 트리 기반 분할에 의존하는 KLIME 접근 방식과 LIME-SUP을 대조한다.
• 시뮬레이션 연구 및 실제 데이터 실험으로 평가한다.

실험 결과

연구 질문

• RQ1 감독 분할이 복잡한 SML 모델에 대해 지역적으로 해석 가능한 설명을 제공할 수 있는가?
• RQ2 LIM-SUP-R과 LIME-SUP-D가 해석 품질 및 성능 면에서 KLIME 접근 방식과 어떻게 비교되는가?
• RQ3 적합된 응답과 도함수에 트리 기반 분할을 사용하는 이점은 무엇인가?
• RQ4 시뮬레이션 및 실제 데이터 실험이 KLIME에 비해 LIME-SUP의 실용적 이점을 보여주는가?

주요 결과

• LIME-SUP은 적합된 응답과 그 도함수를 기반으로 트리로 예측자 공간을 분할하여 지역적으로 해석 가능한 모델을 제공한다.
• LIME-SUP은 KLIME과 대조되며, 시뮬레이션 및 실제 데이터 실험에서 확인된 이점을 강조한다.