[논문 리뷰] Generalizing Logic-based Explanations for Machine Learning Classifiers via Optimization

Francisco Mateus Rocha Filho, Ajalmar Rêgo da Rocha Neto외 1명|arXiv (Cornell University)|2026. 03. 02.

Explainable Artificial Intelligence (XAI)인용 수 0

한 줄 요약

본 논문은 ML 분류기용 논리 기반 귀납적 설명을 확장하기 위해 두 가지 최적화 기반 방법(Onestep와 Twostep)을 제안하여 커버리지를 향상시키고 계산 시간을 관리합니다.

ABSTRACT

Machine learning models support decision-making, yet the reasons behind their predictions are opaque. Clear and reliable explanations help users make informed decisions and avoid blindly trusting model outputs. However, many existing explanation methods fail to guarantee correctness. Logic-based approaches ensure correctness but often offer overly constrained explanations, limiting coverage. Recent work addresses this by incrementally expanding explanations while maintaining correctness. This process is performed separately for each feature, adjusting both its upper and lower bounds. However, this approach faces a trade-off: smaller increments incur high computational costs, whereas larger ones may lead to explanations covering fewer instances. To overcome this, we propose two novel methods. Onestep builds upon this prior work, generating explanations in a single step for each feature and each bound, eliminating the overhead of an iterative process. extit{Twostep} takes a gradual approach, improving coverage. Experimental results show that Twostep significantly increases explanation coverage (by up to 72.60\% on average across datasets) compared to Onestep and, consequently, to prior work.

연구 동기 및 목표

• ML 분류기에 대한 논리 기반 귀납적 설명의 일반화를 개선한다.
• 설명 범위를 확장하면서 정확성을 보장하는 방법을 개발한다.
• 확장된 설명을 생성할 때 커버리지와 계산 효율의 균형을 맞춘다.
• 이 방법들을 SVM과 MLP 분류기에 적용하고 여러 데이터셋에서 평가한다.

제안 방법

• 분류기(SVM과 MLP)를 일차 논리 공식 및 MILP/LP 형식으로 표현하여 올바른 귀납적 설명을 얻는다.
• Onestep를 도입: 각 경계에 대해 한 단계로 최대/최소 특징 범위를 찾도록 최적화를 사용하여 반복적 증가를 피한다.
• Twostep를 도입: 확장 순서를 제어하여 전체 설명 커버리지를 개선하고 특정 특징에 대한 과도한 제약을 줄인다.
• MILP/LP 해석기를 통해 만족도를 검사하여 귀납적 설명을 해결하고 선형 SVC에 대해 다항 시간 검증을 가능하게 한다.
• 필수 예측 조건을 포착하는 P를 정의하고 E를 도출하여 E ∪ D ⊨ P를 만족시키되 E를 최소로 한다.

Figure 1 : Example of how the range of a feature $f_{i}$ is computed with an incremental approach.

실험 결과

연구 질문

• RQ1 ML 분류기에 대해 논리 기반 설명을 유지하면서 어떻게 확장 속성을 부풀릴 수 있는가?
• RQ2 증분적 접근 방식과 비교하여 최적화 기반 확장 방법이 귀납적 설명의 커버리지를 향상시키는가?
• RQ3 Onestep과 Twostep를 사용할 때 커버리지 증가와 계산 시간 간의 트레이드오프는 무엇인가?
• RQ4 제안된 방법이 테스트한 데이터셋을 넘어서 SVM 및 MLP 모델에 효과적으로 적용될 수 있는가?
• RQ5 합성 데이터셋과 실제 데이터셋에서 설명 일반화는 어떻게 작동하는가?

주요 결과

• Twostep은 Onestep에 비해 데이터셋 전반에서 평균적으로 설명 커버리지를 최대 72.60%까지 증가시킨다.
• Twostep은 Onestep에 비해 계산 시간 55.65% 증가를 수반한다.
• Onestep은 경계당 특징별로 한 단계의 최적화로 확장된 설명을 계산하여 반복적 범위 과초과를 피한다.
• 설명은 분류기 및 도메인 제약을 표현하는 MILP/LP 형식을 풀어 계산된다.
• 실험은 네 가지 지표를 평가한다: 계산 시간, 원래 데이터셋에서의 커버리지, 합성 데이터에서의 커버리지, 그리고 12개 데이터셋에 걸친 범위 폭.

Figure 2 : Example of how the range of a feature $f_{i}$ is computed with Onestep.