[논문 리뷰] Conditional Generative Models for Counterfactual Explanations

Arnaud Van Looveren, Janis Klaise외 2명|arXiv (Cornell University)|2021. 01. 25.

Explainable Artificial Intelligence (XAI)참고 문헌 29인용 수 7

한 줄 요약

이 논문은 이미지, 시계열, 표준 데이터 등 다양한 데이터 유형에서 기계학습 예측에 대해 희소하고 내분포(counterfactual) 설명을 생성하기 위한 조건부 생성 모델 프레임워크를 제안한다. 단일 순방향 전파를 통해 생성 모델을 훈련시켜, 반복 최적화 없이도 내분포 품질과 희소성에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Counterfactual instances offer human-interpretable insight into the local behaviour of machine learning models. We propose a general framework to generate sparse, in-distribution counterfactual model explanations which match a desired target prediction with a conditional generative model, allowing batches of counterfactual instances to be generated with a single forward pass. The method is flexible with respect to the type of generative model used as well as the task of the underlying predictive model. This allows straightforward application of the framework to different modalities such as images, time series or tabular data as well as generative model paradigms such as GANs or autoencoders and predictive tasks like classification or regression. We illustrate the effectiveness of our method on image (CelebA), time series (ECG) and mixed-type tabular (Adult Census) data.

연구 동기 및 목표

• 기존 반례 생성 방법이 개별 인스턴스마다 반복 최적화에 의존함에 따라 발생하는 확장성 및 현실성의 한계를 해결하기 위해.
• 훈련 데이터에 대해 희소하고 내분포인 반례를 생성할 수 있는 일반적이고 모odal 무관(general, modality-agnostic) 프레임워크를 개발하기 위해.
• 조건부 생성 모델을 사용하여 단일 순방향 전파로 반례를 배치(batch) 생성함으로써 최적화 기반 기준보다 효율성을 향상시키기 위해.
• 이상형 데이터 모달리티(이미지(CelebA), 시계열(ECG), 혼합형 표준 데이터(Adult Census)) 전반에서 방법의 효과성을 입증하기 위해.

제안 방법

• 이 방법은 원본 인스턴스 $ x $ 와 목표 예측 $ y_T $ 를 입력으로 받아 반례 인스턴스 $ x_{\text{CF}} $ 를 생성하는 조건부 생성 모델 $ G_{\text{CF}} $ 를 사용하며, 이 모델이 생성한 $ x_{\text{CF}} $ 에 대해 예측 결과가 $ y_T $ 와 일치하도록 한다.
• 생성 모델은 현실성과 최소한의 특징 변화를 보장하기 위해 적대적 손실, 재구성 손실, $ L_1 $ 기반의 희소성 페널티를 조합하여 훈련한다.
• 이 프레임워크는 다양한 생성 모델(GANs, VAEs, 오토인코더 등)과 예측 작업(분류, 회귀)에 모두 호환되어 광범위한 적용 가능성을 가진다.
• 표준 데이터의 경우, 조건부 GAN을 사용하며 $ w_G = 1 $, $ w_M = 1 $, $ w_{L_1} = 10 $ 로 설정하고, 혼합형 특징 유형을 처리하기 위해 원핫 인코딩과 정규화를 적용한다.
• 모델는 종합적으로 원본 인스턴스에 가까운 반례(희소성)와 실제 데이터와 통계적으로 유사한 반례(내분포성)를 생성하도록 엔드 투 엔드로 훈련된다.
• 반례는 반복 최적화 없이 단일 순방향 전파로 생성되며, 이는 추론 속도를 크게 향상시킨다.

실험 결과

연구 질문

• RQ1 조건부 생성 모델은 다양한 데이터 모달리티에서 희소하고 내분포인 반례 인스턴스를 생성할 수 있는가?
• RQ2 최적화 기반 기준 대비 제안된 방법은 반례 품질과 생성 효율성 측면에서 어떻게 비교되는가?
• RQ3 이 프레임워크는 이미지, 시계열, 혼합형 표준 데이터를 포함한 다양한 데이터 유형에 얼마나 잘 일반화되는가?
• RQ4 생성 모델링을 사용함으로써 기존 반례 생성 방법에 비해 클래스 조건부 내분포성(class-conditional in-distributionness)이 향상되는가?
• RQ5 반복 최적화 없이도 배치 생성이 가능하면서도 고품질의 반례를 유지할 수 있는가?

주요 결과

• Adult Census 데이터셋에서 제안된 방법은 전체 데이터 분포에 대해 MMD² 거리 0.021, 클래스 조건부 분포에 대해 0.015를 기록하여 DiCE와 CFProto를 모두 초월했다.
• 표준 데이터에서 $ L_1 $ 거리는 0.065, $ L_0 $ 거리는 2.13를 기록하여 높은 희소성와 강력한 내분포 품질을 동시에 확보했다.
• 이미지 데이터(CelebA)의 경우, 제안된 방법은 시각적으로 현실적인 반례를 생성했으며, 의미적 특징을 유지하면서 기준 대비 최소한의 변형을 보였다.
• ECG 시계열 데이터에서 생성된 반례는 생리학적으로 타당했고, 목표 예측에 대해 최소한의 특징 변화로 일치시켰다.
• UMAP 시각화와 MMD 점수를 통한 확인 결과, 이 방법은 DiCE와 CFProto에 비해 클래스별 데이터 분포를 더 잘 유지했다.
• 이 프레임워크는 단일 순방향 전파로 반례를 배치 생성할 수 있었으며, 이는 반복 최적화 방법 대비 추론 속도를 크게 향상시켰다.