[논문 리뷰] Entropic Variable Boosting for Explainability and Interpretability in Machine Learning.

François Bachoc, Fabrice Gamboa외 2명|arXiv (Cornell University)|2018. 10. 18.

Explainable Artificial Intelligence (XAI)참고 문헌 27인용 수 3

한 줄 요약

이 논문은 기존 데이터 분포를 유지하면서 각 입력 변수를 체계적으로 강조함으로써 블랙박스 기계학습 모델을 설명하는 확장 가능한 방법인 Entropic Variable Boosting를 소개한다. 새로운 데이터를 생성하는 대신 기준 샘플을 재가중함으로써 변수 중요도를 효율적으로 계산하며, 최소한의 계산 오버헤드로 표준 데이터셋에서 향상된 해석 가능성과 함께 성능을 보여준다.

ABSTRACT

In this paper, we present a new explainability formalism to make clear the impact of each variable on the predictions given by black-box decision rules. Our method consists in evaluating the decision rules on test samples generated in such a way that each variable is stressed incrementally while preserving the original distribution of the machine learning problem. We then propose a new computation-ally efficient algorithm to stress the variables, which only reweights the reference observations and predictions. This makes our methodology scalable to large datasets. Results obtained on standard machine learning datasets are presented and discussed.

연구 동기 및 목표

• 블랙박스 기계학습 모델에서 개별 변수의 영향을 평가하기 위한 명확하고 분포를 유지하는 방법의 부족을 해결하기 위해.
• 비용이 많이 드는 데이터 생성을 피하면서도 원래 데이터 분포에 충실한 확장 가능한 접근 방식을 개발하기 위해.
• 기존 기능 할당 방법에 비해 계산 비용이 적은 대안을 제공하기 위해.
• 각 변수에 대해 정밀하고 점진적인 스트레스 테스트를 수행하여 모델 예측에 기여하는 정도를 정량화하기 위해.

제안 방법

• 이 방법은 데이터셋의 원래 연합 분포를 유지하면서 각 입력 변수를 점진적으로 강조함으로써 테스트 샘플을 생성한다.
• 새로운 합성 데이터를 생성하는 대신 기준 관측치와 예측치를 수정하는 재가중 전략을 도입한다.
• 변수 강조가 모델 출력에 미치는 영향을 정량화하기 위해 엔트로피 기반 측정법을 활용한다.
• 입력 공간 전역에서 통제된 스트레스 조건 하에서 모델 예측의 변화로부터 변수 중요도를 유도한다.
• 전체 데이터 재샘플링을 피하기 때문에 대규모 데이터셋에 대한 확장성을 확보할 수 있도록 알고리즘이 계산 효율적으로 설계되어 있다.
• 강조된 변수가 타당한 통계적 범위 내에 유지되도록 하여 분포 일관성을 유지한다.

실험 결과

연구 질문

• RQ1 스트레스 테스트 중 원래 데이터 분포를 유지하면서 변수 중요도를 어떻게 측정할 수 있는가?
• RQ2 재가중 기반 접근 방식이 훨씬 낮은 계산 비용으로도 데이터 생성 방법과 유사한 해석 가능성을 달성할 수 있는가?
• RQ3 이 방법이 개별 변수의 영향을 의미 있는 점진적인 방식으로 얼마나 잘 드러내는가?
• RQ4 伝통적인 기능 할당 기법과 비교해 대규모 데이터셋에서 이 방법은 어떻게 확장되는가?

주요 결과

• 제안된 방법은 새로운 데이터를 생성하는 대신 기존 데이터 포인트를 재가중함으로써 확장 가능한 변수 중요도 추정을 달성한다.
• 표준 기계학습 데이터셋에서의 결과는 이 방법이 데이터 분포를 유지하면서도 변수 영향을 효과적으로 포착함을 보여준다.
• 이 방법은 계산 효율성이 뛰어나 데이터 생성이 비용이 많이 드는 대규모 데이터셋에 적합하다.
• 이 방법은 모델의 해석 가능성 향상에 기여하는 명확하고 점진적인 변수 영향 평가를 제공하며, 정밀도를 훼손하지 않는다.