[논문 리뷰] Efficient Explanations for Knowledge Compilation Languages

Xuanxiang Huang, Yacine Izza외 4명|arXiv (Cornell University)|2021. 07. 04.

Bayesian Modeling and Causal Inference참고 문헌 57인용 수 9

한 줄 요약

이 논문은 설명 가능 AI와 제약 프로그래밍에서 흔히 사용되는 지식 컴파일리제이션(KC) 언어인 d-DNNF 및 SDD에 대해, 개별 및 다중 역행적 설명(AXp)과 후행적 설명(CXp)이 다항시간 내에 계산될 수 있음을 보여준다. 핵심 기여는 KC 언어가 일관성(CO), 타당성(VA), 조건화(CD) 쿼리를 다항시간에 지원할 경우, 효율적인 설명 생성이 가능하다는 점이며, 실험 결과는 런타임 오버헤드가 극히 적고 실용적으로 확장 가능함을 보여준다.

ABSTRACT

Knowledge compilation (KC) languages find a growing number of practical uses, including in Constraint Programming (CP) and in Machine Learning (ML). In most applications, one natural question is how to explain the decisions made by models represented by a KC language. This paper shows that for many of the best known KC languages, well-known classes of explanations can be computed in polynomial time. These classes include deterministic decomposable negation normal form (d-DNNF), and so any KC language that is strictly less succinct than d-DNNF. Furthermore, the paper also investigates the conditions under which polynomial time computation of explanations can be extended to KC languages more succinct than d-DNNF.

연구 동기 및 목표

• 지식 컴파일리제이션(KC) 언어를 사용하는 기계학습 및 제약 프로그래밍 시스템에서 증가하는 공식적 설명의 필요성에 대응하기 위해.
• 다음 중 어느 KC 언어가 후행적(AXp) 및 대조적(CXp) 설명의 다항시간 계산을 허용하는지 규명하기 위해.
• 최소한의 계산 오버헤드로 다중 설명을 효율적으로 생성하는 실용적인 오라클 기반 순열 알고리즘 개발을 위해.
• 일반화된 결정 함수 및 다중 클래스 분류기로의 다항시간 설명 계산 확장을 위해.
• 실제 실-world 데이터셋을 대상으로 이론적 효율성을 실증적으로 평가하기 위해.

제안 방법

• 핵심 KC 연산인 일관성(CO), 타당성(VA), 조건화(CD)에 대한 다항시간 지원이 설명 생성의 다항시간 가능성을 충분조건으로 활용한다.
• NP 오라클 호출당 하나의 설명을 생성하는 MARCO 유사 알고리즘을 제안하여 다중 AXp 및 CXp의 효율적 순열을 가능하게 한다.
• SAT 오라클 호출을 통해 설명의 타당성과 일관성을 검증하며, SDD에 특화된 최적화를 통해 성능를 조정한다.
• DNNF 기반 결정 함수가 표준 d-DNNF를 초월해 다항시간 내에 설명 가능해지는 일반화된 조건을 제안한다.
• 다중 클래스 결정 경계를 지원하도록 설명 로직을 조정하여 다중 클래스 분류기로의 프레임워크 적용을 수행한다.
• 확장성과 효율성 평가를 위해 cactus 플롯과 런타임 측정을 활용하여 d-DNNF 및 SDD로 컴파일된 실-world 데이터셋에서의 성능을 분석한다.

실험 결과

연구 질문

• RQ1 지식 컴파일리제이션 언어에 대해 어떤 조건이 개별 후행적 및 대조적 설명의 다항시간 계산 가능성을 보장하는가?
• RQ2 다중 설명의 순열을 효율적으로 수행할 수 있으며, 각 설명당 최소한의 계산 비용을 유도할 수 있는가?
• RQ3 실제로 설명 생성에 있어 d-DNNF와 SDD의 성능 특성이 어떻게 상이한가?
• RQ4 KC 언어로부터 구성된 일반화된 결정 함수가 다항시간 내에 설명 가능해지기 위한 조건은 무엇인가?
• RQ5 제안된 프레임워크는 다중 클래스 분류기로 확장되어도 다항시간 설명 계산을 유지할 수 있는가?

주요 결과

• d-DNNF와 SDD 언어에 대해, 모든 테스트 인스턴스에서 AXp 및 CXp를 모두 순열하는 데 소요되는 최대 런타임은 d-DNNF 기준 0.2초 이하, SDD 기준 0.02초 이하였다.
• 평균적으로 d-DNNF의 모든 설명을 순열하는 데 0.038초가 소요되었고, SDD의 경우 몇 밀리초 내로 끝나, SAT 오라클 호출로 인한 오버헤드가 극히 미미함을 시사했다.
• SDD의 설명 생성은 평균적으로 d-DNNF보다 6배 빠르며, 주로 SDD에서 일관성 및 타당성 검사가 상수시간에 이루어지기 때문이다.
• 설명의 평균 길이(AXp 또는 CXp)는 전체 특성 수 대비 상대적으로 짧아, 간결하고 이해하기 쉬운 설명임을 나타낸다.
• 각 인스턴스당 설명의 총 수가 작게 유지되어 의사결정자들에게 실용적인 사용성을 보장한다.
• 실험 결과는 이론적 다항시간 보장이 실질적으로 매우 효율적이고 확장 가능한 설명 생성으로 이어짐을 확인한다.