[논문 리뷰] Concept Tree: High-Level Representation of Variables for More Interpretable Surrogate Decision Trees

Xavier Renard, Nicolas Woloszko외 2명|arXiv (Cornell University)|2019. 06. 04.

Explainable Artificial Intelligence (XAI)참고 문헌 16인용 수 8

한 줄 요약

이 논문은 관련성 있거나 의미적으로 관련된 변수들을 고수준의 '개념'으로 묶음으로써 해석 가능성성을 향상시키는 모델에 종속되지 않는 서rogate 의사결정나무 방법인 개념 트리(Concept Trees)를 제안한다. 이는 도메인 전문 지식이나 상관관계 기반 클러스터링을 통해 이루어지며, 트리의 분할을 이러한 개념들에 국한시킴으로써 정확성과 유지보수성을 유지하면서도 더 직관적이고 글로벌하게 일관된 설명을 제공한다. 이는 FRED-MD 거시경제 데이터셋에서 표준 TREPAN 서rogate 모델 대비 인간이 이해하기 쉬운 설명을 제공함으로써 입증되었다.

ABSTRACT

Interpretable surrogates of black-box predictors trained on high-dimensional tabular datasets can struggle to generate comprehensible explanations in the presence of correlated variables. We propose a model-agnostic interpretable surrogate that provides global and local explanations of black-box classifiers to address this issue. We introduce the idea of concepts as intuitive groupings of variables that are either defined by a domain expert or automatically discovered using correlation coefficients. Concepts are embedded in a surrogate decision tree to enhance its comprehensibility. First experiments on FRED-MD, a macroeconomic database with 134 variables, show improvement in human-interpretability while accuracy and fidelity of the surrogate model are preserved.

연구 동기 및 목표

• 고차원의 표본 데이터에서 상관관계가 있는 변수를 다룰 때 서rogate 의사결정나무의 해석 가능성 문제를 해결하기 위해.
• 서로 상관관계가 있는 의존 변수 그룹에서 임의로 하나의 변수를 선택하는 표준 서rogate 모델이 야기하는 잘못된 단순성의 느낌을 줄이기 위해.
• 변수들의 고수준 개념으로의 묶음을 도입함으로써 글로벌 및 로컬 해석 가능성을 향상시키기 위해.
• 개념 기반 묶음이 모델 정확성이나 유지보수성에 손상을 주지 않으면서도 인간의 이해도를 향상시키는지 평가하기 위해.

제안 방법

• 개념은 전문 지식 또는 피어슨 상관계수 기반 클러스터링을 통해 의존 변수의 군집으로 정의된다.
• TREPAN 알고리즘을 확장하여 개념을 통합함으로써, 분할 규칙이 개별 변수가 아니라 전체 개념을 대상으로 하도록 제약을 둔다.
• 의사결정나무의 각 노드는 구성 요소 변수의 부분집합을 사용하여 개념을 테스트한다. 이는 관련된 특징들이 함께 다뤄지도록 보장한다.
• 분할 선택을 위해 수정된 id2-of-3 규칙을 사용하며, 이제는 개념 수준에서 적용되어 일관성을 향상시킨다.
• 개념은 트리의 계층을 구성하는 데 사용되어 더 직관적이고 도메인에 맞는 설명 언어를 촉진한다.
• 이 방법은 모델에 종속되지 않으며, 어떤 블랙박스 분류기에도 적용 가능하다.

실험 결과

연구 질문

• RQ1 상관관계가 있거나 의미적으로 관련된 변수들을 고수준의 개념으로 묶는 것이 서rogate 의사결정나무의 해석 가능성성을 향상시키는가?
• RQ2 표준 TREPAN 대비 개념 기반 묶음이 서rogate 모델의 유지보수성과 정확성에 어떤 영향을 미치는가?
• RQ3 전문가가 정의한 개념과 상관계수 기반 개념 중 어느 것이 인간이 모델 결정을 이해하는 데 더 기여하는가?
• RQ4 개념의 사용이 상관관계가 있는 변수 그룹에서 개별 변수를 임의로 선택하는 문제를 줄이는가?
• RQ5 개념 기반 트리는 지역 해석 가능성은 유지하면서도 더 명확하고 일관된 글로벌 설명을 제공할 수 있는가?

주요 결과

• 개념 트리는 의미 있는 고수준 개념을 중심으로 설명을 구성함으로써 인간의 해석 가능성을 크게 향상시켰다.
• 전문가가 정의한 개념을 사용한 개념 트리는 루트 노드에서 '노무 시장(Labor Market)'을 주요 예측 변수로 명확히 식별함으로써 더 일관되고 직관적인 설명 구조를 제공했다.
• 상관계수 기반 개념 클러스터링은 의미 있는 군집을 성공적으로 복원하였으며, 예를 들어 높은 상관관계를 보이는 노무 시장 지표들을 하나의 클러스터로 묶었다.
• 전문가가 정의한 개념을 사용한 개념 트리는 원래 TREPAN 모델과 유사한 정확성과 유지보수성을 확보하면서도 훨씬 더 해석 가능성이 높았다.
• 반면, 표준 TREPAN 트리는 상관관계가 있는 그룹에서 개별 변수(예: 다양한 고용 측정 지표)를 임의로 선택함으로써 큰 그림을 흐리게 했다.
• 결과적으로 개념 기반 트리는 블랙박스 모델 행동을 더 충실하고 실무자에게 친화적인 방식으로 표현할 수 있음을 보여주었다.