[논문 리뷰] Supervised Local Modeling for Interpretability.

Gregory Plumb, Denali Molitor외 1명|arXiv (Cornell University)|2018. 07. 09.

Explainable Artificial Intelligence (XAI)참고 문헌 14인용 수 3

한 줄 요약

SLIM은 국소 선형 모델링과 랜덤 포레스트의 이중 해석을 결합하여 정확한 예측과 충실도가 높고 다중 수준의 설명을 동시에 제공하는 새로운 해석 가능한 기계학습 모델이다. 높은 예측 정확도를 달성하면서도 예시 기반, 국소적, 전역적 설명을 제공함으로써 정확도-해석 가능성 간의 상충 관계를 효과적으로 해결한다.

ABSTRACT

Model interpretability is an increasingly important component of practical machine learning. Some of the most common forms of interpretability systems are example-based, local, and global explanations. One of the main challenges in interpretability is designing explanation systems that can capture aspects of each of these explanation types, in order to develop a more thorough understanding of the model. We address this challenge in a novel model called SLIM that uses local linear modeling techniques along with a dual interpretation of random forests (both as a supervised neighborhood approach and as a feature selection method). SLIM has two fundamental advantages over existing interpretability systems. First, while it is effective as a black-box explanation system, SLIM itself is a highly accurate predictive model that provides faithful self explanations, and thus sidesteps the typical accuracy-interpretability trade-off. Second, SLIM provides both example- based and local explanations and can detect global patterns, which allows it to diagnose limitations in its local explanations.

연구 동기 및 목표

• 예측 정확도를 희생시키지 않은 채 다중 유형의 설명—예시 기반, 국소적, 전역적 설명을 통합하는 해석 가능한 기계학습 모델을 개발하는 데 도전한다.
• 모델의 정확도와 해석 가능성 간의 일반적인 상충 관계를 극복하기 위해 높은 정확도를 유지하면서도 자가 설명이 가능한 모델을 설계한다.
• 데이터 내 잠재적인 전역 패턴을 탐지함으로써 국소 설명의 한계를 진단할 수 있도록 한다.
• 랜덤 포레스트의 두 가지 시각—근접성 선택과 특성 선택—을 하나의 일관된 해석 가능성 프레임워크로 통합한다.

제안 방법

• SLIM은 예측 인스턴스의 근접 영역에서 선형 모델을 피팅하여 국소적 설명을 생성하기 위해 국소 선형 모델링을 활용한다.
• 랜덤 포레스트를 감독 기반의 근접성 선택 메커니즘과 특성 선택 방법으로 동시에 사용하여 국소 설명에 적합한 특성을 식별한다.
• 랜덤 포레스트의 근접성 구조를 활용해 입력 인스턴스 주변의 국소적 영역을 정의함으로써 국소 해석을 가능하게 한다.
• 랜덤 포레스트에서 유도된 변수 중요도 점수를 활용해 국소 선형 모델의 특성 선택을 제약한다.
• 이러한 구성 요소를 하나의 예측 모델로 통합하여 높은 정확도를 유지하면서도 충실하고 해석 가능한 출력을 제공한다.
• 랜덤 포레스트의 이중적 활용은 전역적 특성 중요도와 데이터 구조 패턴을 탐지할 수 있게 하여 국소 설명의 일관성과 신뢰도를 향상시킨다.

실험 결과

연구 질문

• RQ1 단일 모델이 성능을 훼손시키지 않고 동시에 정확한 예측, 국소적 설명, 전역적 통찰을 제공할 수 있는가?
• RQ2 랜덤 포레스트를 근접성 선택 방법과 특성 선택 메커니즘으로 동시에 활용하여 해석 가능성을 향상시킬 수 있는가?
• RQ3 잠재적인 전역 패턴을 탐지함으로써 국소 설명의 일관성과 신뢰도를 얼마나 잘 진단할 수 있는가?
• RQ4 국소 선형 모델링과 랜덤 포레스트를 통합하면 기존 방법에 비해 더 충실하고 정확한 설명을 얻을 수 있는가?

주요 결과

• SLIM은 높은 예측 정확도를 달성하면서도 충실도가 높은 자가 설명을 제공하여 일반적으로 존재하는 정확도-해석 가능성 상충 관계를 효과적으로 제거한다.
• 모델은 예시 기반 및 국소적 설명을 모두 제공하여 사용자가 개별 예측를 맥락 속에서 이해할 수 있도록 한다.
• SLIM은 특성 중요도와 데이터 구조의 전역 패턴을 탐지할 수 있어 국소 설명의 잠재적 한계를 진단하는 데 기여한다.
• 국소 선형 모델링과 랜덤 포레스트의 이중 해석을 통합함으로써 SLIM은 다중 수준의 해석 가능성을 지원하는 통합 프레임워크를 제공한다.
• 랜덤 포레스트를 근접성 및 특성 선택 메커니즘으로 동시에 활용함으로써 국소 예측의 강건성과 해석 가능성은 향상된다.