[논문 리뷰] DALEX: explainers for complex predictive models

Przemysław Biecek|arXiv (Cornell University)|2018. 06. 23.

Explainable Artificial Intelligence (XAI)참고 문헌 11인용 수 15

한 줄 요약

이 논문은 R에서 복잡한 예측 모델을 일관된 문법을 사용해 탐색할 수 있는 모델에 종속되지 않는 프레임워크인 DALEX을 소개한다. 이 프레임워크는 국소적 및 전역적 해석 도구—예를 들어, Ceteris Paribus 플롯, Break Down 플롯, 순열 중요도—를 제공하여 개별 예측, 변수 중요도, 모델 성능의 해석을 가능하게 하며, 주요 머신러닝 프레임워크 간의 모델 비교 및 시각화를 지원한다.

ABSTRACT

Predictive modeling is invaded by elastic, yet complex methods such as neural networks or ensembles (model stacking, boosting or bagging). Such methods are usually described by a large number of parameters or hyper parameters - a price that one needs to pay for elasticity. The very number of parameters makes models hard to understand. This paper describes a consistent collection of explainers for predictive models, a.k.a. black boxes. Each explainer is a technique for exploration of a black box model. Presented approaches are model-agnostic, what means that they extract useful information from any predictive method despite its internal structure. Each explainer is linked with a specific aspect of a model. Some are useful in decomposing predictions, some serve better in understanding performance, while others are useful in understanding importance and conditional responses of a particular variable. Every explainer presented in this paper works for a single model or for a collection of models. In the latter case, models can be compared against each other. Such comparison helps to find strengths and weaknesses of different approaches and gives additional possibilities for model validation. Presented explainers are implemented in the DALEX package for R. They are based on a uniform standardized grammar of model exploration which may be easily extended. The current implementation supports the most popular frameworks for classification and regression.

연구 동기 및 목표

• 랜덤 포레스트나 기울기 부스팅 기반 머신러닝 모델과 같은 높은 정확도를 자랑하는 복잡한 예측 모델의 해석 가능성 문제를 해결하기 위해.
• 내부 아키텍처에 의존하지 않고도 블랙박스 모델을 일관되고 확장 가능한 방식으로 설명하기 위한 프레임워크를 개발하기 위해.
• 체계적인 설명 도구를 통해 모델 검증, 영역 지식 통합, 편향 또는 성능 격차 식별을 지원하기 위해.
• 다양한 모델 간의 동일한 해석 척도에서 비교를 가능하게 하여 모델 선택 및 향상에 기여하기 위해.
• 수치적, 시각적, 비교적 분석을 지원하는 모델 행동 탐색을 위한 통합적이고 표준화된 문법을 제공하기 위해.

제안 방법

• 모델의 내부 아키텍처에 관계없이 적용 가능한 모델에 종속되지 않는 해석 접근 방식을 제안한다.
• 국소적 예측 안정성에 대한 Ceteris Paribus 플롯, 변수 기여도에 대한 Break Down 플롯, 전역적 특성 중요도에 대한 순열 중요도를 포함한 일련의 해석 도구를 도입한다.
• 수치적 요약, 시각화, 모델 비교를 통합하기 위해 표준화된 모델 탐색의 문법을 활용한다.
• Ceteris Paribus 플롯에서 분위수 변환을 통해 변수 간 비교를 동일한 척도에서 가능하게 하기 위해 정규화를 적용한다.
• 다양한 모델 간 해석 도구를 일치시켜 직접적인 강점과 약점을 평가할 수 있도록 모델 비교를 지원한다.
• 모든 해석 도구를 오픈소스 DALEX R 패키지에 구현하여 caret, mlr, randomForest, xgboost 등 주요 프레임워크와 호환되도록 한다.

실험 결과

연구 질문

• RQ1 내부 아키텍처에 의존하지 않고도 복잡하고 높은 정확도를 가진 예측 모델을 어떻게 해석할 수 있는가?
• RQ2 어떤 기법을 사용하면 개별 예측을 입력 변수의 기여도로 분해하여 국소적 설명을 가능하게 할 수 있는가?
• RQ3 변수 중요도나 조건부 반응과 같은 전역적 모델 행동을 어떻게 시각화하고 다양한 모델 간에 비교할 수 있는가?
• RQ4 모델 해석 도구는 도메인 검증, 모델 개선, 숨겨진 편향 또는 성능 저하 탐지에 어떻게 기여할 수 있는가?
• RQ5 다양한 해석 기법을 통합하기 위해 일관되고 확장 가능한 모델 탐색의 문법을 어떻게 설계할 수 있는가?

주요 결과

• DALEX 프레임워크는 일관되고 모델에 종속되지 않는 문법을 통해 어떤 예측 모델이라도 국소적 및 전역적 해석이 가능하다.
• Ceteris Paribus 플롯은 특정 아파트의 예측에 대해 'surface'(표면 면적) 변수가 가장 큰 영향을 미치며, 'construction year'(건축 연도)는 최소한의 영향을 미친다.
• Break Down 플롯은 선형 모델과 랜덤 포레스트 모델 모두에서 'district = Srodmiescie'(구역 = 중심지구)가 예측 증가에 가장 큰 기여를 한다고 나타낸다.
• 랜덤 포레스트 모델은 선형 모델에 비해 'surface' 변수에 더 강한 부정적 영향을 미치며, 이는 모델 고유의 행동 양상을 드러낸다.
• 순열 기반 변수 중요도는 변수를 무작위로 섞었을 때 예측 변화를 측정하여 가장 영향력 있는 변수를 식별하며, 더 긴 간격은 더 높은 중요도를 의미한다.
• 공통된 해석 도구를 사용한 모델 비교를 통해 다양한 모델 간 성능 차이와 구조적 통찰을 직접 평가할 수 있다.