[논문 리뷰] On the Explanatory Power of Decision Trees

Gilles Audemard, Steve Bellart외 4명|arXiv (Cornell University)|2021. 08. 11.

Explainable Artificial Intelligence (XAI)참고 문헌 34인용 수 4

한 줄 요약

이 논문은 부울 결정 트리의 설명력에 대해 조사하며, 최소 충분한 이유는 지수적으로 많고 열거하기 어려운 반면, 요약 설명에 핵심적인 관련 및 필수 특징은 다항 시간 내에 계산될 수 있음을 보여준다. 대조적 설명은 반면에 계산이 용이하고, 최소화 및 세는 데에도 유리하여 민감한 AI 응용 분야에서의 해석 가능성에 더 실용적이다.

ABSTRACT

Decision trees have long been recognized as models of choice in sensitive applications where interpretability is of paramount importance. In this paper, we examine the computational ability of Boolean decision trees in deriving, minimizing, and counting sufficient reasons and contrastive explanations. We prove that the set of all sufficient reasons of minimal size for an instance given a decision tree can be exponentially larger than the size of the input (the instance and the decision tree). Therefore, generating the full set of sufficient reasons can be out of reach. In addition, computing a single sufficient reason does not prove enough in general; indeed, two sufficient reasons for the same instance may differ on many features. To deal with this issue and generate synthetic views of the set of all sufficient reasons, we introduce the notions of relevant features and of necessary features that characterize the (possibly negated) features appearing in at least one or in every sufficient reason, and we show that they can be computed in polynomial time. We also introduce the notion of explanatory importance, that indicates how frequent each (possibly negated) feature is in the set of all sufficient reasons. We show how the explanatory importance of a feature and the number of sufficient reasons can be obtained via a model counting operation, which turns out to be practical in many cases. We also explain how to enumerate sufficient reasons of minimal size. We finally show that, unlike sufficient reasons, the set of all contrastive explanations for an instance given a decision tree can be derived, minimized and counted in polynomial time.

연구 동기 및 목표

• 부울 결정 트리에서 충분한 이유와 대조적 설명을 유도하고, 최소화하며, 세는 데 필요한 계산 복잡도를 분석하는 것.
• 모든 최소 충분한 이유의 집합이 지수적으로 클 수 있어 실질적으로 열거하는 데 어려움이 있다는 문제를 다루는 것.
• 관련 및 필수 특징을 사용하여 충분한 이유의 스케일러블한 합성 표현을 개발함으로써, 설명 가능한 모델 분석을 가능하게 하는 것.
• 실세계 데이터셋에서 설명 중요도, 필수/관련 특징, 대조적 설명을 계산하는 알고리즘의 실용적 효율성을 평가하는 것.

제안 방법

• 최소한 한 개의 충분한 이유에 나타나는 특징인 관련 특징과 모든 충분한 이유에 나타나는 특징인 필수 특징의 개념을 도입하며, 둘 다 다항 시간 내에 계산 가능하다.
• 모델 수세기 기반 접근법을 제안하여 설명 중요도(각 특징이 모든 충분한 이유에서 나타나는 빈도)를 계산한다.
• 최소 충분한 이유를 모두 열거하는 데 효율적인 알고리즘을 개발하며, 큰 집합을 다룰 수 있도록 가변적인 제한을 설정한다.
• 결정 트리의 구조를 활용해 경로 기반 추론을 통해 대조적 설명을 유도함으로써 다항 시간 내에 계산이 가능하도록 한다.
• 단일 충분한 이유를 계산하기 위해 근사 알고리즘을 사용하며, 실질적으로 자주 최소 충분한 이유를 도출한다.
• 논리 기반 추론과 모델 수세기를 조합한 하이브리드 접근법을 통해 최대 1000개의 인스턴스를 가진 실세계 데이터셋에까지 스케일링할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 결정 트리에서 인스턴스에 대한 모든 최소 충분한 이유의 집합을 효율적으로 계산할 수 있으며, 그 스케일링 한계는 무엇인가?
• RQ2 충분한 이유의 집합이 지수적으로 클 수 있기 때문에, 모두 열거하지 않고도 이를 요약할 수 있는 방법은 무엇인가?
• RQ3 결정 트리에서 대조적 설명을 도출하는 데 필요한 계산 복잡도는 얼마이며, 충분한 이유와 비교해보면 어떻게 되는가?
• RQ4 설명 특징(관련 및 필수 특징)이 충분한 이유의 전체 집합을 압축하고 의미 있는 방식으로 표현할 수 있는 정도는 어느 정도인가?
• RQ5 제안된 알고리즘은 실세계 데이터셋, 특히 복잡한 특징 공간을 가진 데이터셋에서 실제로 얼마나 효율적인가?

주요 결과

• 결정 트리에서 인스턴스에 대한 모든 최소 충분한 이유의 집합은 입력 크기보다 지수적으로 클 수 있으며, 이는 실질적으로 전체 열거가 불가능하다는 것을 의미한다.
• 충분한 이유의 수는 매우 클 수 있으며, 일부 데이터셋에서는 중앙값이 100 이상이 되며, 일부 경우에서는 인스턴스당 10,000개 이상의 이유를 초과하기도 한다.
• 필수 특징의 수는 관련 특징의 수보다 크게 작아서, 충분한 이유의 수가 왜 이렇게 클 수 있는지 설명할 수 있다.
• 충분한 이유를 계산하기 위한 근사 알고리즘은 실질적으로 자주 최소 충분한 이유를 도출하므로 실용적인 유용성이 높다.
• 대조적 설명은 다항 시간 내에 계산, 최소화, 세는 것이 가능하므로 충분한 이유보다 더 스케일러블하다.
• 90개 데이터셋 중 87개에서 충분한 이유를 세고 설명 중요도를 계산하는 데 평균 1초 이내가 소요되어, 이론적으로는 어려운 경우가 있어도 실용적 효율성이 뛰어나다는 것을 입증한다.