[논문 리뷰] Counterfactual Explanations Using Optimization With Constraint Learning

Donato Maragno, Tabea E. Röber외 1명|UvA-DARE (University of Amsterdam)|2022. 09. 22.

Explainable Artificial Intelligence (XAI)인용 수 7

한 줄 요약

이 논문은 다수의 실용적 기준을 동시에 충족시키기 위해 제약 조건 학습을 활용한 최적화 기반 프레임워크인 CE-OCL을 제안한다. 신뢰 영역과 기존 해를 통합함으로써, 근접성, 다양성, 데이터 만곡면 가까움, 실행 가능성 등에서 최상의 성능을 달성하여 German Credit Data와 같은 벤치마크 데이터셋에서 최신 기술을 초월한다.

ABSTRACT

To increase the adoption of counterfactual explanations in practice, several criteria that these should adhere to have been put forward in the literature. We propose counterfactual explanations using optimization with constraint learning (CE-OCL), a generic and flexible approach that addresses all these criteria and allows room for further extensions. Specifically, we discuss how we can leverage an optimization with constraint learning framework for the generation of counterfactual explanations, and how components of this framework readily map to the criteria. We also propose two novel modeling approaches to address data manifold closeness and diversity, which are two key criteria for practical counterfactual explanations. We test CE-OCL on several datasets and present our results in a case study. Compared against the current state-of-the-art methods, CE-OCL allows for more flexibility and has an overall superior performance in terms of several evaluation metrics proposed in related work.

연구 동기 및 목표

• 근접성, 다양성, 실행 가능성, 데이터 만곡면 가까움과 같은 핵심 실용적 기준을 동시에 충족시키지 못하는 기존 반성적 설명 방법의 격차를 해소하기 위해.
• 다양한 해석 가능성 기준을 통합할 수 있는 일반적이고 유연한 프레임워크를 체계적으로 개발하기 위해.
• 특히 신뢰 영역과 기존 해 기반 다양성과 같은 새로운 모델링 기법을 도입하여 생성된 반성적 설명의 현실성과 다양성을 향상시키기 위해.
• German Credit Data와 같은 표준 데이터셋에서 종합적인 지표를 사용해 평가함으로써 반성적 설명 품질의 새로운 기준을 설정하기 위해.
• 최적화 기반 제약 조건 학습(OCL)이 실행 가능한, 현실적인, 다양한 반성적 설명을 생성하는 데 있어 확장 가능하고 효과적인 접근법임을 입증하기 위해.

제안 방법

• CE-OCL은 반성적 설명 생성을 제약 조건이 있는 최적화 문제로 공식화하며, 목적 함수는 사실 기반 인스턴스와의 거리, 희소성, 목표 예측에서의 편차를 최소화한다.
• 신뢰 영역 접근법을 활용하여 생성된 반성적 설명이 관측된 학습 데이터의 이웃 영역 내에 머무르도록 함으로써 데이터 만곡면 가까움을 보장한다.
• 이전 최적화 반복에서 얻은 기존 해를 사용하여 동일한 특성 값이 반복적으로 변경되는 것을 방지함으로써 다양한 반성적 설명을 촉진한다.
• 제약 조건 학습을 통해 데이터 또는 영역 지식에서 암묵적인 제약 조건을 학습함으로써 실행 가능성 및 인과성과 같은 복잡한 기준을 통합할 수 있다.
• 연속형 및 이산형 특성 모두를 지원하며, 최적화 과정에서 적절한 인코딩 및 디코딩 메커니즘을 통해 일관성을 유지한다.
• 다단계 최적화 모델을 사용하여 점진적으로 제약 조건(예: 희소성, 실행 가능성, 인과성)을 추가함으로써 반성적 설명을 체계적으로 개선한다.

실험 결과

연구 질문

• RQ1 제약 조건 학습을 통한 최적화 프레임워크가 통합적으로 모든 주요 실용적 반성적 설명 기준을 효과적으로 충족시킬 수 있는가?
• RQ2 신뢰 영역의 사용이 생성된 반성적 설명의 데이터 만곡면 가까움과 현실성에 어떻게 기여하는가?
• RQ3 반복 최적화 과정에서 기존 해를 활용할 경우 반성적 설명의 다양성은 어느 정도 향상되는가?
• RQ4 모든 기준이 적용된 상황에서 CE-OCL은 유효성, 근접성, 희소성, 다양성, 실행 가능성 지표 측면에서 최신 기술 대비 어떻게 비교되는가?
• RQ5 제안된 프레임워크는 인과성 및 일관성과 같은 추가 기준을 쉽게 통합할 수 있는가?

주요 결과

• 모든 평가 부문에서 CE-OCL은 1.00의 유효성 점수를 확보하여 생성된 모든 반성적 설명이 원하는 결과를 정확히 예측함을 확인했다.
• 인과성과 데이터 만곡면 가까움이 포함된 Part F에서 근접성 지표는 0.77(정규화 척도 기준)에 도달하여 사실 기반 인스턴스에 강한 유사성을 보였다.
• 특성 기반 차이를 기반으로 한 다양성 지표는 Part F에서 0.10을 기록하여 최적화 제약 조건에도 불구하고 효과적인 다양한 반성적 설명 생성을 확인했다.
• German Credit Data 사례 연구에서 CE-OCL은 실행 가능성 및 인과성 제약 조건을 충족하면서도 희소성(0.78)과 근접성(0.77)이 향상된 반성적 설명을 생성했다.
• 기존 방법과 비교해 CE-OCL은 특히 모든 기준이 적용된 경우 다양성과 데이터 만곡면 가까움 등 여러 평가 지표에서 뛰어난 성능을 보였다.
• 프레임워크는 '저축'과 '고용 기간'과 같은 특성의 변경을 유효 범위 내로 제한하는 실행 가능성 제약 조건을 잘 준수하는 반성적 설명을 성공적으로 생성했다.