[논문 리뷰] Latent-CF: A Simple Baseline for Reverse Counterfactual Explanations

Rachana Balasubramanian, Samuel Sharpe외 3명|arXiv (Cornell University)|2020. 12. 16.

Explainable Artificial Intelligence (XAI)참고 문헌 20인용 수 14

한 줄 요약

Latent-CF는 변분 오토에인코더의 잠재공간에서 최적화하여 역방향 역설적 설명을 위한 단순하면서도 효과적인 베이스라인을 제안한다. 이는 계산 효율성, 희박성, 데이터 분포 내에서의 타당성 간의 균형을 이루며, MNIST 및 Lending Club 데이터셋에서 특성공간 기반 기울기 방법보다 분포 충실도에서 뛰어나며, 더 복잡한 모델인 프로토타입과 비교해도 희박성과 현실성에서 유사하거나 뛰어난 성능을 보인다.

ABSTRACT

In the environment of fair lending laws and the General Data Protection Regulation (GDPR), the ability to explain a model's prediction is of paramount importance. High quality explanations are the first step in assessing fairness. Counterfactuals are valuable tools for explainability. They provide actionable, comprehensible explanations for the individual who is subject to decisions made from the prediction. It is important to find a baseline for producing them. We propose a simple method for generating counterfactuals by using gradient descent to search in the latent space of an autoencoder and benchmark our method against approaches that search for counterfactuals in feature space. Additionally, we implement metrics to concretely evaluate the quality of the counterfactuals. We show that latent space counterfactual generation strikes a balance between the speed of basic feature gradient descent methods and the sparseness and authenticity of counterfactuals generated by more complex feature space oriented techniques.

연구 동기 및 목표

• 고위험 영역의 AI 의사결정에서 실행 가능하고 해석 가능한 설명의 증가하는 수요를 충족시키기 위해, 특히 GDPR과 같은 규정 하에 적용된다.
• 희박성, 계산 속도, 데이터 분포 준수 간의 균형을 이룬 단순하고 효율적인 베이스라인을 제안하여 역설적 설명을 생성한다.
• 분포 내, 희박성, 계산 효율성에 중점을 둔 메트릭을 사용하여 역설적 설명의 품질을 평가한다.
• 잠재공간 최적화가 특성공간 기반 기울기 방법보다 더 현실적이고 희박한 역설적 설명을 생성하는 데 뛰어나다는 것을 입증한다.
• 원칙적인 평가 프레임워크를 사용하여 향후 역설적 생성 방법에 대한 벤치마크를 설정한다.

제안 방법

• 분류기의 학습에 사용된 동일한 훈련 데이터를 기반으로 변분 오토에인코더(VAE)를 훈련하여 압축되고 분리된 잠재 표현을 학습한다.
• 훈련된 인코더를 사용하여 입력 샘플을 잠재공간으로 인코딩한다.
• 원래의 잠재 코드에 가까이 유지하면서 목표 클래스에 대한 예측 손실을 최소화하기 위해 경사하강법을 사용해 잠재 코드를 최적화한다.
• 최적화된 잠재 코드를 디코딩하여 원래 입력 공간에서 최종 역설적 샘플을 생성한다.
• 다양한 분류기를 사용하여 잠재공간에서 기울기를 계산함으로써 엔드 투 엔드 최적화를 가능하게 한다.
• 정규화 및 클리핑을 적용하여 역설적 설명이 원본 샘플에 가까이 유지되고 데이터 분포 성질을 유지하도록 보장한다.

실험 결과

연구 질문

• RQ1 잠재공간 최적화가 특성공간 기반 기울기 방법보다 더 희박하고 분포 내의 역설적 설명을 생성할 수 있는가?
• RQ2 잠재공간 최적화의 계산 효율성은 프로토타입과 같은 더 복잡한 특성 기반 방법과 비교해 어떻게 되는가?
• RQ3 표준 오토에인코더 대비 변분 오토에인코더를 사용할 경우 역설적 설명 품질에 유의미한 향상이 이루어지는가?
• RQ4 Latent-CF가 생성한 역설적 설명은 특성 기반 기울기 강하 방법과 비교해 기능 변화 패tern과 현실성에서 어떻게 다를까?
• RQ5 잠재공간 표현이 개인의 의사결정에 의미 있고 실행 가능한 변화를 유지하는 데 얼마나 효과적인가?

주요 결과

• Latent-CF는 특성 기반 기울기 방법보다 훨씬 더 분포 내의 역설적 설명을 생성한다. 특히 이미지 가장자리에서 외부 분포 변화가 발생하는 경향이 있는 특성 기반 기울기 방법과는 대조된다.
• 희박성 측면에서 매우 높은 성능을 보이며, MNIST 역설적 설명에서 변경된 픽셀 수가 10% 미만으로 나타나, FGD 기반 방법의 50% 이상을 상회한다.
• 고차원 및 저차원 데이터 모두에서 일관된 성능을 유지하며, MNIST와 Lending Club의 표본형 데이터에서 특성공간 기반 방법보다 뛰어난 성능을 보였다.
• 특성 기반 기울기 강하 방법(FGD, FGD+C, FGD+MAD)은 일반적으로 여러 위험 요소를 동시에 감소시키는 높은 상관관계를 가진 변화 패턴을 생성하여, 현실적인 행동 변화를 반영하지 못할 수 있다.
• 프로토타입과 Latent-CF는 특성 기반 기울기 방법의 균일한 변화 패턴과는 달리 더 다양한, 샘플에 특화된 역설적 설명을 생성하며, 입력의 공동 분포를 조건으로 삼는다.
• 잠재공간 정규화는 핵심 메트릭에서 미미한 이점만 제공하며, 고차원 설정에서는 약간의 향상이 있을 수 있다.