[논문 리뷰] Counterfactual Explanations for Arbitrary Regression Models

Thomas Spooner, Danial Dervovic외 4명|arXiv (Cornell University)|2021. 06. 29.

Explainable Artificial Intelligence (XAI)참고 문헌 51인용 수 10

한 줄 요약

이 논문은 임계값 기반의 강건성 문제를 해결하기 위해 미분 가능 잠재함수를 사용하는 베이지안 최적화 기반의 회귀 모델에서의 반대설명(CFEs) 생성 방법을 제안한다. 전역 수렴을 달성하며, 임의의 제약 조건(예: 희소성, 실행 가능성)을 지원하고 지식 전이를 통한 병렬 쿼리가 가능하여 실제 회귀 과제에서 국소 기울기 기반 방법보다 샘플 효율성과 정밀도에서 뛰어난 성능을 발휘한다.

ABSTRACT

We present a new method for counterfactual explanations (CFEs) based on Bayesian optimisation that applies to both classification and regression models. Our method is a globally convergent search algorithm with support for arbitrary regression models and constraints like feature sparsity and actionable recourse, and furthermore can answer multiple counterfactual questions in parallel while learning from previous queries. We formulate CFE search for regression models in a rigorous mathematical framework using differentiable potentials, which resolves robustness issues in threshold-based objectives. We prove that in this framework, (a) verifying the existence of counterfactuals is NP-complete; and (b) that finding instances using such potentials is CLS-complete. We describe a unified algorithm for CFEs using a specialised acquisition function that composes both expected improvement and an exponential-polynomial (EP) family with desirable properties. Our evaluation on real-world benchmark domains demonstrate high sample-efficiency and precision.

연구 동기 및 목표

• 연속적인 출력으로 인해 임계값 기반의 강건성 부족으로 인해 비의미적 또는 단순한 변형이 발생하는 회귀 모델에 대해 원칙적이고 강건한 반대설명 방법의 부재 문제를 해결한다.
• 임계값 기반 목표 함수의 민감성 문제를 해결하기 위해, 다양한 회귀 모델에 대한 반대설명 탐색을 미분 가능 잠재함수를 사용해 수학적 엄밀성과 강건성을 확보한다.
• 임의의 비선형 제약 조건(예: 희소성, 실행 가능성)을 지원하고 병행 및 비용 절감된 CFE 생성이 가능한, 전역 수렴 보장 및 블랙박스 호환성 확보의 알고리즘 개발.
• 제안된 프레임워크에서 반대설명 존재성 및 최적성의 이론적 복잡도 한계를 설정하고, NP-완전성 및 CLS-완전성 증명.
• 실제 회귀 벤치마크에서 실행 가능하고 희소하며 인과적 정보를 반영한 반대설명을 생성하는 데서의 효능을 실증적으로 입증.

제안 방법

• 임계값 기반 목표 함수를 대체하여, 강건성과 수학적 엄밀성을 확보하기 위해 반대설명 탐색을 미분 가능 잠재함수를 사용해 회귀 모델에 통합한다.
• 목표 편차를 모델링하기 위해 이론적 및 실용적 성질이 우수한 지수다항식(EP) 가족의 잠재함수를 도입한다.
• 기대 개선도와 EP 잠재함수를 통합한 특수한 할당 함수를 설계하여, 베이지안 최적화가 유효하고 고품질의 반대설명으로 유도하도록 한다.
• 사용자 정의 정규화 또는 특징 범위를 통해 임의의 비선형 제약 조건(예: 희소성, 실행 가능성)을 지원하는 통합 알고리즘을 구현한다.
• 단일 최적화 실행 내에서 병렬로 여러 반대설명 질문을 쿼리할 수 있도록 하여, 쿼리 간 정보 재사용을 통해 샘플 효율성을 향상시킨다.
• 모델이 비미분 가능하거나 블랙박스일지라도 전역 수렴 보장을 갖춘 베이지안 최적화를 적용한다.

실험 결과

연구 질문

• RQ1 임계값 기반 목표 함수의 결함을 피할 수 있는 원칙적이고 강건한 반대설명 프레임워크를 회귀 모델에 개발할 수 있는가?
• RQ2 제안된 잠재함수 기반 형식화에서 반대설명 존재성 및 최적성의 계산 복잡도는 어떻게 되는가?
• RQ3 베이지안 최적화 기반 방법이 임의의 회귀 모델에 대해 전역 수렴과 높은 샘플 효율성을 달성할 수 있는가?
• RQ4 제안된 방법이 실제 회귀 과제에서 실행 가능하고 희소하며 인과적으로 타당한 반대설명을 얼마나 효과적으로 생성하는가?
• RQ5 모델이 병행 쿼리 여러 건을 동시에 처리하면서도 쿼리 간 최적화 지식을 재사용할 수 있는가?

주요 결과

• 제안된 방법은 실제 회귀 벤치마크에서 국소 기울기 기반 방법보다 뛰어난 샘플 효율성과 정밀도를 확보하며 반대설명을 생성한다.
• 미분 가능 잠재함수의 사용으로 인해 기존 임계값 기반 목표 함수의 강건성 문제를 해결하여 일관되고 의미 있는 반대설명 생성을 보장한다.
• 이론적 분석을 통해 제안된 형식화 하에서 반대설명 존재성 검증은 NP-완전성, 최적 반대설명 도출은 CLS-완전성임을 증명하였다.
• 모델이 비미분 가능하더라도 알고리즘이 전역 수렴을 보이며, 국소 최적화 방법에 비해 핵심적인 이점이 있다.
• 라이드셰어 예측 모델의 예측 지속시간에 대한 반대설명 분석에서 직관적인 영향 요소(예: 거리, 승객 수)와 비직관적인 패턴(예: 시간대 영향)을 발견하여 진단적 유용성을 입증하였다.
• 제약 조건이 없을 경우에도 일부 목표 편차는 달성 불가능했으며, 이는 누적된 후보 샘플링을 통해 성공적으로 식별되었고, 경로 의존적 기울기 방법과는 대비된다.