[논문 리뷰] Efficient Explanations With Relevant Sets

Yacine Izza, Alexey Ignatiev외 3명|arXiv (Cornell University)|2021. 06. 01.

Explainable Artificial Intelligence (XAI)참고 문헌 39인용 수 5

한 줄 요약

이 논문은 의사결정 트리 및 지식 컴파일 기반 모델에서 부분집합 최소 $δ$-유관 집합을 통한 확률적 설명의 효율적 계산을 제안하며, MaxSMT와 이중성 기법을 사용해 이러한 집합이 다항시간 내에 계산될 수 있음을 보여준다. 이 방법은 런타임, 설명 크기, 정밀도 면에서 Anchor보다 뛰어나며, 기존 히우리스틱 및 비히우리스틱 해설기의 실용적이고 확장 가능한 대안을 제공한다.

ABSTRACT

Recent work proposed $δ$-relevant inputs (or sets) as a probabilistic explanation for the predictions made by a classifier on a given input. $δ$-relevant sets are significant because they serve to relate (model-agnostic) Anchors with (model-accurate) PI- explanations, among other explanation approaches. Unfortunately, the computation of smallest size $δ$-relevant sets is complete for ${NP}^{PP}$, rendering their computation largely infeasible in practice. This paper investigates solutions for tackling the practical limitations of $δ$-relevant sets. First, the paper alternatively considers the computation of subset-minimal sets. Second, the paper studies concrete families of classifiers, including decision trees among others. For these cases, the paper shows that the computation of subset-minimal $δ$-relevant sets is in NP, and can be solved with a polynomial number of calls to an NP oracle. The experimental evaluation compares the proposed approach with heuristic explainers for the concrete case of the classifiers studied in the paper, and confirms the advantage of the proposed solution over the state of the art.

연구 동기 및 목표

• 최소 $δ$-유관 집합을 계산하는 데 있어 높은 계산 복잡도 문제를 해결하기 위해, 이는 $Ν^{Π^P}$-완전이며 실질적으로 실행 가능하지 않기 때문이다.
• 특정 모델 클래스에서 부분집합 최소 설명 계산이 가능하도록 $δ$-유관 집합의 완화된 정의를 탐색하기 위해.
• 의사결정 트리 및 지식 컴파일 모델의 경우 부분집합 최소 $δ$-유관 집합이 다항시간 내에 계산될 수 있음을 보여주기 위해.
• 제안된 방법을 최신 기술인 Anchor 해설기와 런타임, 설명 크기, 정밀도 측면에서 실증적으로 평가하기 위해.

제안 방법

• 의사결정 트리 및 지식 컴파일 모델에서 부분집합 최소 설명 계산이 가능하도록 다항시간 내에 계산 가능한 부분집합 최소 $δ$-유관 집합의 완화된 정의를 제안한다.
• MaxSMT 솔버를 사용하여 의사결정 트리에서 카디널리티 최소 $δ$-유관 집합을 계산하며, 결정 문제의 난이도가 NP에 속한다는 사실을 활용한다.
• 해설 이론의 이중성 원리를 활용해 다양한 종류의 $δ$-유관 집합을 열거하고 추론한다.
• MaxSMT와 모델 체킹 기법을 사용하여 효율적으로 부분집합 최소 $δ$-유관 집합을 계산하는 프로토타입 해설기 idrs를 구현한다.
• 형식적 엄밀성과 확장성을 유지하면서도 확률적 보장을 갖춘 설명을 계산하기 위한 프레임워크를 도입한다.

실험 결과

연구 질문

• RQ1 의사결정 트리에서 부분집합 최소 $δ$-유관 집합을 효율적으로 계산할 수 있는가?
• RQ2 $δ$-유관 집합의 완화된 정의가 특정 모델 클래스에서 다항시간 내에 계산 가능하게 하는가?
• RQ3 해설 이론의 이중성 결과를 $δ$-유관 집합으로 확장하여 효율적 열거가 가능한가?
• RQ4 제안된 방법의 성능은 런타임, 설명 크기, 정밀도 측면에서 Anchor와 비교해 어떻게 되는가?

주요 결과

• 제안된 방법은 평균적으로 인스턴스당 1초 이내에 부분집합 최소 $δ$-유관 집합을 계산하며, 최대 1.0초에 그치며, Anchor의 평균 10초, 최대 138초에 비해 뚜렷이 뛰어나다.
• 설명 크기가 극적으로 감소한다: $δ = 0.01, 0.02, 0.05$일 경우 평균 길이가 5개 이하로 떨어지며, Anchor의 평균 9.0개 기능에 비해 크게 향상된다.
• $δ = 0$일 경우 I$δ$-유관 집합은 100% 정밀도를 달성하며, $δ = 0.05$일 경우에도 평균 정밀도가 0.69를 유지하여 Anchor의 정밀도를 능가하거나 동등하게 유지한다.
• 제안된 방법의 런타임은 $δ$ 값에 민감하지 않으며, 모든 테스트된 $δ$ 수준에서 극히 미미한 수준을 유지한다.
• 대규모 의사결정 트리에서도 잘 스케일링되며, 최대 4,368개 인스턴스를 가진 데이터셋에서도 설명 시간이 1초 이내로 유지된다.