[논문 리뷰] On Efficiently Explaining Graph-Based Classifiers

Xuanxiang Huang, Yacine Izza외 2명|arXiv (Cornell University)|2021. 06. 02.

Explainable Artificial Intelligence (XAI)참고 문헌 65인용 수 4

한 줄 요약

이 논문은 결정 트리와 이진 결합 다이어그램을 포함한 광범위한 그래프 기반 분류기의 경우, 소수 임파워턴트(PI) 및 대조적 설명을 다항 시간 내에 계산할 수 있도록 하는 새로운 그래프 표현인 설명 그래프(XpG)를 제안한다. 결정 트리의 경우 모든 대조적 설명을 다항 시간 내에 열거할 수 있음을 증명하였으며, 특성 소속 관계는 P 내에서 결정 가능하다. 실험을 통해 실제 벤치마크에서 실용적인 효율성을 확인하였다.

ABSTRACT

Recent work has shown that not only decision trees (DTs) may not be interpretable but also proposed a polynomial-time algorithm for computing one PI-explanation of a DT. This paper shows that for a wide range of classifiers, globally referred to as decision graphs, and which include decision trees and binary decision diagrams, but also their multi-valued variants, there exist polynomial-time algorithms for computing one PI-explanation. In addition, the paper also proposes a polynomial-time algorithm for computing one contrastive explanation. These novel algorithms build on explanation graphs (XpG's). XpG's denote a graph representation that enables both theoretical and practically efficient computation of explanations for decision graphs. Furthermore, the paper proposes a practically efficient solution for the enumeration of explanations, and studies the complexity of deciding whether a given feature is included in some explanation. For the concrete case of decision trees, the paper shows that the set of all contrastive explanations can be enumerated in polynomial time. Finally, the experimental results validate the practical applicability of the algorithms proposed in the paper on a wide range of publicly available benchmarks.

연구 동기 및 목표

• 결정 트리와 이진 결합 다이어그램과 같은 그래프 기반 분류기의 공식적이고 확장 가능한 설명 방법의 부족을 해결하기 위해.
• 소수 임파워턴트(PI) 설명과 대조적 설명을 동시에 계산할 수 있는 통합 프레임워크를 개발하고, 공식적인 보장을 제공하기 위해.
• 각 설명에 대해 단일 SAT 오라클 호출만으로도 효율적인 설명 열거를 가능하게 하기 위해.
• 특성 소속 관계와 같은 핵심 설명 작업의 계산 복잡도를 분석하기 위해.
• 제안된 알고리즘의 실용적 확장성과 효율성을 다양한 복잡도를 가진 실제 데이터셋에서 검증하기 위해.

제안 방법

• 분류기의 의사결정 논리를 압축적으로 표현할 수 있는 그래프 기반 표현인 설명 그래프(XpG)를 도입하여, 효율적인 설명 계산을 가능하게 한다.
• 다양한 분류기, 특히 다가지 값 결정 트리와 OBDD를 포함하여 XpG 표현으로 환원하여 통일된 설명 처리를 가능하게 한다.
• 각 설명에 대해 단일 SAT 호출만을 수행하는 SAT 기반 열거 알고리즘을 활용하여 실용적 효율성을 확보한다.
• MUS/MCS 열거를 위한 MARCO 알고리즘을 변형하여 실질적으로 효율적인 설명 열거를 수행한다.
• 단조 함수와 이중성 원리를 활용하여 설명 계산을 기존의 논리 기반 추론 기법과 연관시킨다.
• 특성 소속 관계의 복잡도를 증명한다: 일반 XpG의 경우 NP-완전, DNF 공식의 경우 Σ₂^P-난이도이지만, 트리 구조의 XpG(예: 결정 트리)의 경우 P-완전이다.

실험 결과

연구 질문

• RQ1 다양한 그래프 기반 분류기의 범위에서, 하나의 PI 설명과 하나의 대조적 설명을 계산하기 위한 다항 시간 알고리즘을 개발할 수 있는가?
• RQ2 최소한의 계산 오버헤드로 모든 설명을 효율적으로 열거할 수 있는가?
• RQ3 주어진 특성이 어떤 설명에도 포함될 수 있는지 판단하는 계산 복잡도는 무엇인가?
• RQ4 제안된 프레임워크는 다가지 값 변형을 포함한 다양한 유형의 결정 그래프에 통일적으로 적용될 수 있는가?
• RQ5 다양한 복잡도를 가진 실제 데이터셋에서 제안된 방법의 확장성은 어떻게 되는가?

주요 결과

• 결정 트리의 경우 모든 대조적 설명을 다항 시간 내에 열거할 수 있으며, 이는 새로운 경로를 통해 PI 설명을 열거하는 데 기여한다.
• 트리 구조의 설명 그래프에서 특성 소속 문제는 P 내에서 결정 가능하므로, 특성 중요도의 효율적 분석이 가능하다.
• 제안된 SAT 기반 열거 방법은 실질적으로 잘 스케일링되며, OBDD의 경우 평균 실행 시간이 0.074초 이하, 결정 트리의 경우 0.036초 이하로 나타났다.
• 설명의 평균 길이(%L)는 특성 수 대비 작아, 간결하고 해석 가능한 결과를 제공한다.
• 한 인스턴스당 총 설명 수는 평균 11개 이하이며, 최대 18개를 초과하지 않아, 전수 열거가 가능하다.
• CNF 공식 크기가 설명 수에 따라 선형적으로 증가함에 따라, SAT 오라클 호출로 인한 오버헤드는 거의 무시할 수 있다.